简单爬虫直面代码,可直接复制学习
这个代码的作用主要是用来获取到百度首页的数据,只用来供理解学习 真·小白 福利
#todo 首先导包requests,用于爬取数据
import requests
#todo 定义你要爬的网页路径
url = 'https://www.baidu.com/'
#todo 自定义一个请求头数据,’User-Agent‘是模拟一个浏览器的访问,掩盖爬虫
header = {
'User-Agent': 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; 360SE)'
}
#todo 使用requests包的get请求,携带请求的路径和请求头,获取到网页的数据对象,注意现在是一个object对象
html_data_obj = requests.get(url = url,headers = header)
#todo 将object对象请求通过text的方法,将网页数据的object请求 转换成一个 字符串形式
html_data_str = html_data_obj.text
#打印出网页数据字符串
print(html_data_str)