python scrapy的crapy.core.downloader.handlers.http11] WARNING: Received more bytes than download 错误

最新推荐文章于 2020-12-23 10:18:00 发布

原创

最新推荐文章于 2020-12-23 10:18:00 发布 · 5.8k 阅读

1 ·

CC 4.0 BY-SA版权

在使用Python Scrapy框架爬取http://firmware.koolshare.cn/网站时，遇到`crapy.core.downloader.handlers.http11`的WARNING，提示收到的字节数超过下载预期。问题出现在爬取过程中，前部分请求正常，但后续请求出现异常。目前尚未找到解决方案，寻求社区高手帮助。

python scrapy框架的爬虫遇到下面的错误，一直没查找到解决的办法，请求大佬指教。

在爬取http://firmware.koolshare.cn/网站的时候遇到异常。

2018-10-15 22:07:57 [scrapy.core.downloader.handlers.http11] WARNING: Received more bytes than download warn size (33554432) in request <GET http://firmware.koolshare.cn/LEDE_X64_fw867/openwrt-koolshare-mod-v2.23-r8972-e25927a06f-x86-64-uefi-gpt-squashfs.img.gz>.
2018-10-15 22:08:03 [scrapy.core.downloader.handlers.http11] WARNING: Received more bytes than download warn size (33554432) in request <GET http://firmware.koolshare.cn/LEDE_X64_fw867/openwrt-koolshare-mod-v2.22-r8838-af7317c5b6-x86-64-combined-squashfs.img.gz>.
2018-10-15 22:08:06 [scrapy.core.downloader.handlers.http11] WARNING: Received more bytes than download warn size (33554432) in request <GET http://firmware.koolshare.cn/LEDE_X64_fw867/openwrt-koolshare-mod-v2.23-r8972-e25927a06f-x86-64-combined-squashfs.img.gz>.
2018-10-15 22:08:09 [scrapy.core.

最低0.47元/天解锁文章