python爬虫是怎么处理验证码的

如果直接从生成验证码的页面把验证码下载到本地后识别,再构造表单数据发送的话,会有一个验证码同步的问题,即请求了两次验证码,而识别出来的验证码并不是实际需要发送的验证码。有如下几种方法解决。

法1:

用session:

mysession = requests.Session()login_url = 'http://xxx.com'checkcode_url='http://yyy.com'html = mysession.get(login_url,timeout=60*4)#....balabala解析操作....checkcode = mysession.get(checkcode_url,timeout=60*4)with open('checkcode.png','wb') as f:f.write(checkcode.content)#接下来balabala对图像操作,可以用python的相关库(识别率低,教务网的验证码都够呛),也可以用云速等第三方验证码识别网站提供的有偿服务(识别度较高)#再接下来构造表单数据balabala

法2:

用cookie:

#绑定cookiecheckcode_url='http://yyy.com'cookie = cookielib.CookieJar()handler = urllib2.HTTPCookieProcessor(cookie)opener = urllib2.build_opener(handler)#先读取验证码的urlpicture = opener.open(checkcode_url).read()#balabala图像处理# 生成post数据data = urllib.urlencode(postData)# 构造request请求request = urllib2.Request(PostUrl, data, headers)# 利用之前存有cookie的opener登录页面try:response = opener.open(request) result = response.read()except urllib2.HTTPError, e: print e.code

法3:

selenium+手动构造cookie:该方法无需识别验证码,本人尚未尝试。

webdriver 操作 cookie 的方法有: get_cookies() 获得所有 cookie 信息 get_cookie(name) 返回特定 name 有 cookie 信息 add_cookie(cookie_dict) 添加 cookie,必须有 name 和 value 值 delete_cookie(name) 删除特定(部分)的 cookie 信息 delete_all_cookies() 删除所有 cookie 信息

....#第一次访问 xxx 网站driver.get("http://xxx.com")#将用户名密码写入浏览器 cookiedriver.add_cookie({'name':'username','value':'username'})driver.add_cookie({'name':'password','value':'password'})#再次访问 xxx 网站,将会自动登录driver.get("http://xxx.com")time.sleep(5)....driver.quit()

这种方法难点在于确定该网站是用cookie中的什么key值来表示“用户名”和“密码”的。而且好像有些cookie是加密过的。可以先用get_cookies()进行观察。

另外,本人还有初学者的教程,免费送给大家,在公众号里,直接关注获取吧,谢谢

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值