Python轻松实现动态网页爬虫，附带完整的项目代码！

事情是这样的，因为经常写爬虫的文章，发出去不到一天，一名从业10年的王律师找到了我，我虽然同意了他的微信申请，但内心是按奈不住的慌张。

简单交流了下，原来他在自学爬虫，但他发现翻页的时候，url一直不变。其实他爬取的是较高难度的网页，也就是这次要详细介绍的动态网页。一向乐于助人的J哥自然会给他指明方向，以最短的时间从青铜走向白银。

AJAX动态加载网页

一

什么是动态网页

J哥一向注重理论与实践相结合，知其然也要知其所以然，才能以不变应万变。

所谓的 动态网页 ，是指跟静态网页相对的一种网页编程技术。静态网页，随着html代码的生成，页面的内容和显示效果就基本上不会发生变化了——除非你修改页面代码。而动态网页则不然， 页面代码虽然没有变，但是显示的内容却是可以随着时间、环境或者数据库操作的结果而发生改变的 。——来源百度百科

动态网页具有减少工作量、内容更新快、可完成功能多等特点，被很多公司所采用，比如狗东、某宝、某瓣、某乎等等。

二

什么是AJAX

随着人们对动态网页加载速度的要求越来越高，AJAX技术应运而生并成为许多站点的首选。 AJAX是一种用于创建快速动态网页的技术，通过在后台与服务器进行少量数据交换，使网页实现异步更新 。这意味着在不重新加载整个网页的情况下，可以对网页的某部分进行更新。

三

如何爬取AJAX动态加载网页

1. 解析接口

只要是有数据发送过来，那肯定是有发送到服务器的请求的吧。我们只需找出它悄悄加载出的页面的真实请求即可。特点：爬取速度快，爬取的数据干净，有些网站解析难度较大。

2. Selenium 

selenium是什么呢？它本来是个自动化测试工具，但是被广泛的用户拿去爬虫了。它是一个工具，这个工具可以用代码操作浏览器，比如控制浏览器的下滑、模拟鼠标点击等。特点：代码较简单，爬取速度慢，容易被封ip。

项目实操

怎么说了那么多理论，说实话J哥也不想那么啰嗦。可是吧，这些东西经常会被问到，干脆直接写下来，下次还有人问就直接把这篇文章发给他，一劳永逸！

OK，咱们继续回到王律师的part。王律师作为一名资深律师，深知研究法院历年公示的开庭信息、执行信息等对于提升业务能力具有重要作用。于是，他兴高采烈地打开了一个法院信息公示网页。

长这样：

然后，他根据J哥之前写的爬虫入门文章去爬数据，成功提取了第一页，内心无比之激动。