爬虫之添加代理(五)

验证代理是否可用

    try:
        telnetlib.Telnet('221.15.192.96', port='1080', timeout=3)
    except:
        print('ip无效!')
    else:
        print('ip有效!')

添加代理

添加proxy属性

import requests
from random import choice
proxies= [
    'http://196.52.58.239:80',
    'http://165.225.112.77:10605',
    'http://165.225.76.70:10605',
    'http://122.226.57.70:8888',
    'http://123.57.84.116:8118',
    'http://202.109.157.64:9000',
    'http://139.155.41.15:8118',
    'http://39.106.223.134:80',
    'http://47.115.63.52:8888'
]
proxy = choice(proxies)
session = requests.Session()
page_text = session.get(url=url, proxy=proxy, headers=headers)
引用\[1\]:在进行Python爬虫时,有时候我们需要使用代理来隐藏我们的真实身份。使用代理可以让我们的请求看起来像是来自不同的IP地址,从而避免被网站封禁或限制访问。要在Python爬虫添加代理,我们可以使用第三方库requests或者使用Selenium来实现。引用\[2\]:使用requests库添加代理的方法是在发送请求时,通过设置proxies参数来指定代理服务器的地址和端口号。例如,可以使用以下代码来添加代理:proxies = {'http': 'http://proxy_ip:proxy_port', 'https': 'https://proxy_ip:proxy_port'} response = requests.get(url, proxies=proxies)。引用\[3\]:使用Selenium添加代理的方法是通过设置浏览器的代理选项来实现。可以使用以下代码来添加代理:from selenium import webdriver proxy_ip = 'proxy_ip' proxy_port = 'proxy_port' options = webdriver.ChromeOptions() options.add_argument('--proxy-server=http://{}:{}'.format(proxy_ip, proxy_port)) driver = webdriver.Chrome(chrome_options=options) driver.get(url)。这样,我们就可以在Python爬虫添加代理来隐藏我们的真实身份。 #### 引用[.reference_title] - *1* [Python爬虫篇:爬虫笔记合集](https://blog.youkuaiyun.com/AI19970205/article/details/124282549)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [Python学习三: 爬虫高级技巧 与 模拟实战练习](https://blog.youkuaiyun.com/qq_33081367/article/details/81564373)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值