什么是python爬虫

             网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。其实通俗的讲就是通过程序去获取web页面上自己想要的数据，也就是自动抓取数据。

 

爬虫可以做什么

1.把别人网站上的数据拿下来，放到自己家公司网站上，如小说网，把别家的小说爬下来，放自己网站上。如抢票，飞机票你信息等，把官网的数据拿下来放自己网站上。

2.取数做分析，或各种使用，比如，把股票网站的数据拿下来，作数据分析。

3.实现批量上传下载等。

简单来说就是自动化收集网站上的信息。

爬虫的本质是什么

模拟浏览器打开网页，获取网页中我们想要的那部分数据
浏览器打开网页的过程：
当你在浏览器中输入地址后，经过DNS服务器找到服务器主机，向服务器发送一个请求，服务器经过解析后发送给用户浏览器结果，包括html,js,css等文件内容，浏览器解析出来最后呈现给用户在浏览器上看到的结果。
所以用户看到的浏览器的结果就是由HTML代码构成的，我们爬虫就是为了获取这些内容，通过分析和过滤html代码，从中获取我们想要资源。

 

简单地说，就是把网页所展示的数据通过非人工的手段获取下来。现在是大数据时代，数据分析是解决各行各业相关问题重要的依据。数据分析结果的准确性有很大一部分取决于数据量是否足够大。如果是几十条数据，我们当然可以人工一条条地复制粘贴。但就像前面说的，数据量要足够大分析出来的结果才是有意义的，所以我们需要的数据量通常比较大，往往不可能通过人力来完成数据采集的工作（因为效率低，而且容易出错，重复枯燥的工作也使人失去耐心）。这时候网络爬虫就起到非常重要的作用。

小伙伴们如果有需要代理IP的，可了解下方↓↓↓↓↓↓↓↓↓↓↓

（关注我免费送一万个代理IP哦，啾咪~~）

PC：

代理云 - 可视化用户控制台http://console.v4.dailiyun.com/user/?channel=wym

移动：

代理云 - 可视化用户控制台http://console.v4.dailiyun.com/user/mobile/?channel=wymM