
python爬虫
蓝之赟
这个作者很懒,什么都没留下…
展开
-
python爬虫获取以及使用cookie
python爬虫获取以及使用cookie首先获取cookie:@logger.catch()def get_cookie(): cookie_headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome / 53.0.2785.143Safari / 537.36', 'Connection': 'ke原创 2021-03-12 09:48:32 · 338 阅读 · 0 评论 -
python不用api爬twitter
最近需要twitter数据进行爬取,申请了开发者账号但是被拒了,没得办法,只能另寻它路,平时使用tweetdeck看twitter,所以针对twitter研究入手,本文从研究分析开始记录一下完整的费劲过程。目录一、分析tweetdeck网站1、登录账号关注的人的tweets内容1.1首次请求数据的链接:1.2更新数据的请求连接:1.3下滑滚动的数据请求链接:2、搜索数据...原创 2020-04-15 08:47:24 · 2891 阅读 · 3 评论 -
python request添加cookies
try: logger.debug('执行try') # response = requests.get(url) cookies = dict(_ga="***", __q**="****",_gid="***", update_time="***", ****="*******") ss...原创 2020-03-31 11:29:59 · 1266 阅读 · 0 评论 -
python+selenium爬取网站并截图 屏蔽网站根据window.navigator.webdriver检测模拟浏览器
# -*- encoding:utf-8 -*-import osimport tracebackfrom selenium import webdriverfrom selenium.webdriver import ChromeOptionsimport timefrom threading import Threadfrom config import *from log...原创 2019-10-18 23:37:16 · 736 阅读 · 0 评论