Scrapy使用Downloader Middleware设置代理访问网站

本文介绍如何为Windows 10设置代理服务器,并通过Scrapy框架中的middlewares.py文件配置代理,实现网页爬取功能。文中提供了具体的步骤和代码示例。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、首先上网找到一个好用能用的代理

二、找到以后设置代理:

win10打开控制面板里的internet选项里的局域网设置,

在这里设置勾选,设置好代理后,点击确定。代理设置完毕。

三、代码实现

middlewares.py

class ProxyMiddleware(object):
    logger=logging.getLogger(__name__)
    #返回none不会有影响,返回response和request的话具体看官方文档
    def process_request(self,request,spider):
        self.logger.debug('Using Proxy')
        request.meta['proxy']='http://122.137.173.19:8080'
        return None

取消注释,设置使用middlewares。 

好了,命令行输入访问吧,scrapy crawl httpbin

看orign,122.137.173.19,百度一下看看这是哪里的代理

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CtrlZ1

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值