-
使用requests进行网络请求时,遇到https开头的url,可设置参数 varify=False,为了避开SSL校验什么的。
但是会在终端提示InsecureRequestWarning,很是烦人+丑。
这时可以在requests发出请求之前加一行requests.packages.urllib3.disable_warnings()`,亲测有效。
(其实紧挨着 import requests 下放这一行代码也是可以的)。 -
当出现报错"urllib3(×.×.×) or chardet(×.×.×) doesn’t match a supported version" 的时候,不要慌
只是提醒你的requests库需要更新重装了。 我是直接pip install requests的 -
写爬虫,多线程挺快的,但是协程更是快的惊人。
最近爬取了一本4M多的小说《寻秦记》,单线程用了小400秒,多线程(4个线程)100零几秒。而协程只用了惊人的7秒多。
(无图言D)有机会把代码粘过来,嗯…
在写爬虫中遇到的几个问题和几点收获
最新推荐文章于 2025-01-10 10:25:13 发布