爬虫工具之selenium(五)-建立代理IP池

本文介绍了如何利用selenium创建代理IP池,包括验证代理IP有效性与爬取免费代理IP的步骤。通过正则表达式re.findall进行匹配,并根据需求选择http或https类型的代理,确保请求时使用正确的代理IP。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

主要思路是分两步:第一步判断代理IP是否有效,第二步爬取免费网站代理IP,第三步循环判断爬取的代理IP是否有效

一、判断代理IP是否有效

import random
import requests
import re

'''
设计思路:利用http://icanhazip.com/返回的IP进行校验,如返回的是代理池的IP,说明代理有效,否则实际代理无效(也可以利用)
'''

# 代理ip池:proxies主要指定代理
PROXIES_NEW = {
   
   
    "https": [
        "https://175.42.129.107:9999",
        "https://115.221.246.181:9999",
        "https://121.233.207.161:9999"
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值