Python多线程爬虫——数据分析项目实现详解

雪碧有白泡泡

已于 2024-03-13 14:09:24 修改

阅读量6w

点赞数 165

文章标签： python 爬虫开发语言

于 2024-01-17 16:35:13 首次发布

本文链接：https://blog.youkuaiyun.com/Why_does_it_work/article/details/135653472

版权

前言

在这里插入图片描述
前些天发现了一个巨牛的人工智能学习网站，通俗易懂，风趣幽默，忍不住分享一下给大家：https://www.captainbed.cn/z

「个人网站」：雪碧的个人网站
请添加图片描述

ChatGPT体验地址

请添加图片描述

爬虫

爬虫是指一种自动化程序，能够模拟人类用户在互联网上浏览网页、抓取网页内容、提取数据等操作。爬虫通常用于搜索引擎、数据挖掘、网络分析、竞争情报、用户行为分析等领域。
在这里插入图片描述
我们以爬取某个用户的博文列表并存储到文件中实现多线程爬虫为例，带大家体验爬虫的魅力

获取cookie

首先我们在爬取网站的时候首先获取cookie
在这里插入图片描述

拿我的博客主页为例，用F12打开控制台，点击网络，找到cookie
在这里插入图片描述
创建一个cookie文件，复制进去
然后从给定的cookie_path文件中读取cookie信息，并将其存储在一个字典中。函数返回这个字典。
具体如下

def get_headers(cookie_path:str):
cookies = {
   }
with open(cookie_path, "r", encoding="utf-8") as f:
cookie_list = f.readlines()
for line in cookie_list:
cookie = line.split(":")
cookies[cookie[0]] = str(cookie[1]).strip()
return cookies

网站爬取与启动

优快云爬虫

class 优快云(object):
def init(self, username, folder_name, cookie_path):
# self.headers = {
   
# "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.70 Safari/537.36"
# }
self.headers = get_headers(cookie_path)
self.s = requests.Session()
self.username = username
self.TaskQueue = TaskQueue()
self.folder_name = folder_name
self.url_num = 1<