【fake_useragent】网络爬虫获取随机User-Agent

学习目标：

通过安装python的fake_useragent第三方库，使用它生成随机User-Agent请求网站，以此突破反爬。

• 掌握fake_useragent安装与使用

---

目录

User-agent

安装fake_useragent库

导入模块 

生成useragent字符串

request模块使用示例：

---

User-agent

user-agent：检验请求者的用户代理，包含请求者的浏览器、操作系统版本和cpu等信息，以此来判断是否为机器人。

安装fake_useragent库

cmd命令行中输入以下命令进行安装：

pip install fake_useragent

导入模块 

from fake_useragent import UserAgent  

生成useragent字符串

生成随机useragent

us = UserAgent().random 

生成chrome浏览器useragent

us = UserAgent().chrome

使用示例：

us = UserAgent().chrome
print(type(us))
print(us)

 输出结果：

<class 'str'>
Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2227.1 Safari/537.36

request模块使用示例：

from fake_useragent import UserAgent
url = 'https://www.baidu.com'
headers = {'User-Agent' : UserAgent().random}
res = requests.get(url, headers = headers)
print(res.status_code)

 输出：

200