
爬虫
永远相信神话
我只相信我自己
展开
-
python3爬取斗鱼主播信息
爬取舞蹈区的主播信息如昵称,热度,直播标题,直播地址,主播头像1、抓包分析(https://www.douyu.com/g_dance)g_dance可以换成其他的,原理是一样的 通过首页分析得不到要请求的链接,如果是直接通过elements中的元素来解析的话得不到主播的头像url地址,通过分析是通过json文件来传值的,第一页找不到,换到第...原创 2019-12-18 17:20:06 · 965 阅读 · 2 评论 -
{"status":false,"msg":"您操作太频繁,请稍后再访问","clientIp":"113.94.81.141"}
在爬取拉勾网的时候报错{"status":false,"msg":"您操作太频繁,请稍后再访问","clientIp":"113.94.81.141"}需要获取搜索结果那一页的cookie 以及header里面需要添加Accept、Referer、User-Agentimport requests url = 'https://www.lagou.com/jobs...原创 2019-08-28 23:57:25 · 7888 阅读 · 0 评论