你爱我，我爱你，IP被封很头疼【Python爬虫实战：ip代理js逆向采集】

直接进入今天的主题，相信学过爬虫的朋友们都知道爬虫封ip十分头疼，辣条今天带你获取免费ip代理

爬取目标

---

网址：站大爷

工具使用

---

开发环境：win10、python3.7 开发工具：pycharm、Chrome 工具包：requests，lxml

项目思路解析

---

请求目标网页地址 从静态网页中提取出ip地址（端口图片暂时不做处理）

通过xpath的方式提取出对应的网页数据 提取下来的数据是进行加密的

提取数据的代码

session = requests.session()

url = ‘https://www.zdaye.com/FreeIPList.html’

response = session.get(url, headers=headers)

data = response.content.decode()

html_object = etree.HTML(data)

data_list = html_object.xpath(‘//*[@id=“ipc”]/tbody/tr’)

​

ip_list = []

for tr in data_list:

ipnum = tr.xpath(‘./td[1]/text()’)[0]

ipnum2 = tr.xpath(‘./td[1]/@v’)[0]

ip_list.append((ipnum, ipnum2))

找到数据的加密方法 查看是否为动态加载的数据

并不是动态数据 找到加密的js文件

打断点调试js代码

解析对应的加密函数

​

def sdfsgfdg(s):

s2 = s.split(‘m’)

ts = ‘’

for i in range(len(s2) - 1, -1, -1):

ts += chr(int(s2[i]) - 352)

return ts

​

​

def MD5§:

return hashlib.md5(§.encode()).hexdigest().upper()

​

​

def get_keyurl(mk, ak):

url = ‘https://www.zdaye.com/’ + mk + “_” + MD5(MD5(sdfsgfdg(mk) + “beiji” + ak)) + ‘.gif’

return url

​

​

def dsfgsd(s, kk):

s2 = s.split(‘#’)

ts = ‘’

for i in range(len(s2) - 1, -1, -1):

ts += chr(int(s2[i]) - kk)

​

return ts

​

​

t = str(time.strftime(‘%Y/%m/%d %H:%M:%S’,time.localtime())).replace(’ ', “%20”).replace(“/0”, “/”)

new_url = ‘https://www.zdaye.com/js/base.js?’ + t

pp = session.get(new_url, headers=headers)

mk = re.findall(‘mk = “(.*?)”;’, pp.text)[0]

ak = re.findall(‘ak = “(.*?)”;’, pp.text)[0]

key_url = get_keyurl(mk, ak)

key = session.get(key_url, headers=headers)

out函数从html页面获取到td的v标签数据进行解析 showm为MD5的加密方法

简易源码分享

---

import re

import time

import requests

from lxml import etree

import hashlib

​

headers = {

‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.198 Safari/537.36’,

‘Referer’: ‘https://www.zdaye.com/FreeIPList.html’,

}

​

def sdfsgfdg(s):

s2 = s.split(‘m’)

ts = ‘’

for i in range(len(s2) - 1, -1, -1):

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

现在能在网上找到很多很多的学习资源，有免费的也有收费的，当我拿到1套比较全的学习资源之前，我并没着急去看第1节，我而是去审视这套资源是否值得学习，有时候也会去问一些学长的意见，如果可以之后，我会对这套学习资源做1个学习计划，我的学习计划主要包括规划图和学习进度表。

分享给大家这份我薅到的免费视频资料，质量还不错，大家可以跟着学习

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

这份我薅到的免费视频资料，质量还不错，大家可以跟着学习

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
[外链图片转存中…(img-Tc2bSt5Y-1712900064296)]