爬虫的快速入门基础 (三)爬虫三大库知识以及requests库入门 第一章

本文介绍了Python爬虫的三大基础库——Requests、Lxml和BeautifulSoup。通过实例展示了如何使用Requests库发送HTTP请求,获取网页源代码,并利用BeautifulSoup解析网页内容。文中详细解释了如何设置User-Agent,以及如何将爬取的数据保存到本地HTML文件。通过运行示例代码,读者可以完成自己的第一个爬虫程序,抓取并保存百度首页的源代码。

一、爬虫三大库简单介绍 (后面会一个一个详细介绍使用方法)

import requests 这个就是导入 requests库

需要安装第三方库 就使用这个命令 pip install 第三方库的名称

比如 安装requests库 就是 pip install requests
需要打开cmd
比如:

from bs4 import BeautifulSoup 这个是导入 BeautifulSoup库的写法

爬虫三大库 Requests Lxml BeautifulSoup

二、requests库入门

第一个爬虫程序

# 这个是导入requests库

import requests

# 这个可以理解为 定义url网址链接是多少 这个链接需要你自己去复制你想要爬取的网址的链接

url ="http://www.baidu.com"

# 这个headers 在浏览器的f12工具中找 首先进入百度 按f12

# 然后如下图 找到网络

然后随便点一个名称 中的文件 往下滑 找到User-Agant 复制 整个User-Agant的内容 作为headers即可

 

&nbs

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ZTLJQ

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值