如果大家把互联网比作一张大的蜘蛛网,数据便是存放于蜘蛛网的各个节点,而爬虫就是一只小蜘蛛,会沿着网络抓取自己的猎物(数据)。
从技术层面来说就是,通过程序模拟浏览器请求站点的行为,把站点返回的HTML代码/JSON数据/二进制数据(图片、视频)爬到本地,进而提取自己需要的数据,存放起来使用。一般步骤为:
1、发起请求。使用http库向目标站点发起请求,即发送一个Request。
2、获取响应内容。如果服务器能正常响应,则会得到一个Response,包含:html,json,图片,视频等。
3、解析内容。解析二进制数据:以wb的方式写入文件。
4、保存数据。