爬取百度翻译
这种网站的特点就是在不刷新整个页面,或者不改变网址的情况下,局部刷新网页,通过异步加载方式返回json格式的数据。
一. 分析网址
百度翻译网址:https://fanyi.baidu.com
当我们输入一个单词时,例如“wolf”,可以发现整个网页的地址没有变化,只是局部刷新了。按f12键打开抓包工具,选择Network中的XHR选项后,重新输入可以发现从服务器返回了一些json格式的数据:
点击最后一个sug,可以发现我们真正请求的地址以及我们传入的“wolf”参数:
然后就是点击preview,查找我们需要的信息,也就是翻译后的信息。可以发现翻译信息储存在key为“data”,values为一个列表的字典中,该values中的列表里的每一个元素又是一个个字典,
所以我们需要爬取的信息的位置表达式为
['data'][0]['v']
二. 编写代码
知