requests_xcdl(requests_西刺代理)

本文介绍了一种使用Python的requests库结合代理和自定义headers抓取西刺代理网站的方法。通过设置代理和headers,可以成功绕过网站的部分反爬虫机制,获取网页内容并保存为本地文件。
import requests
url = 'http://www.xicidaili.com'
# <!-- 添加proxy -->
proxy = {
    'http':'http://root:Yao+ql2011@101.200.50.18:8118'
}
# <!-- 添加 headers -->
headers = {
    'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36'
}
# <!-- 调用requests,得到response -->
response = requests.get(url,headers=headers,proxies=proxy)
print(response.text)

with open('xicidaili.html','wb') as f:
    f.write(response.content)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值