python scrapy的crapy.core.downloader.handlers.http11] WARNING: Received more bytes than download 错误

不愿透露姓名的菜鸟

于 2018-10-15 22:21:53 发布

阅读量5.8k

点赞数

分类专栏：爬虫开发学习

本文链接：https://blog.youkuaiyun.com/Homewm/article/details/83065753

版权

在使用Python Scrapy框架爬取http://firmware.koolshare.cn/网站时，遇到`crapy.core.downloader.handlers.http11`的WARNING，提示收到的字节数超过下载预期。问题出现在爬取过程中，前部分请求正常，但后续请求出现异常。目前尚未找到解决方案，寻求社区高手帮助。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

python scrapy框架的爬虫遇到下面的错误，一直没查找到解决的办法，请求大佬指教。

在爬取http://firmware.koolshare.cn/网站的时候遇到异常。

2018-10-15 22:07:57 [scrapy.core.downloader.handlers.http11] WARNING: Received more bytes than download warn size (33554432) in request <GET http://firmware.koolshare.cn/LEDE_X64_fw867/openwrt-koolshare-mod-v2.23-r8972-e25927a06f-x86-64-uefi-gpt-squashfs.img.gz>.
2018-10-15 22:08:03 [scrapy.core.downloader.handlers.http11] WARNING: Received more bytes than download warn size (33554432) in request <GET http://firmware.koolshare.cn/LEDE_X64_fw867/openwrt-koolshare-mod-v2.22-r8838-af7317c5b6-x86-64-combined-squashfs.img.gz>.
2018-10-15 22:08:06 [scrapy.core.downloader.handlers.http11] WARNING: Received more bytes than download warn size (33554432) in request <GET http://firmware.koolshare.cn/LEDE_X64_fw867/openwrt-koolshare-mod-v2.23-r8972-e25927a06f-x86-64-combined-squashfs.img.gz>.
2018-10-15 22:08:09

最低0.47元/天解锁文章