Python网络爬虫Requestsk安装与使用(学习笔记)(一)

本文介绍了Python网络爬虫中Requests库的安装和使用,重点关注requests.get()和requests.head()方法。通过get方法获取网页内容,并讨论了处理编码问题。同时,提到了requests.head()用于获取HTTP头部信息的用法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、Requests库的安装

Win平台: “以管理员身份运行”cmd,执行 pip install requests
在这里插入图片描述

二、Requests库

方法说明
requests.request()构造一个请求,支撑以下各方法的基础方法
requests.get()获取HTML网页的主要方法,对应于HTTP的GET
requests.head()获取HTML网页头信息的方法,对应于HTTP的HEAD
requests.post()向HTML网页提交POST请求的方法,对应于HTTP的POST
requests.put()向HTML网页提交PUT请求的方法,对应于HTTP的PUT
requests.patch()向HTML网页提交局部修改请求,对应于HTTP的PATCH
requests.delete()向HTML页面提交删除请求,对应于HTTP的DELETE

1) requests.get()方法

r=requests.get(url)

获取一个网页的最简单的代码便是如此。get方法和url(网站地址)可以构造一个向服务器请求资源的Request对象,注意大小写敏感,requests.get(url)返回的内容用变量r表示,这个r便是Response对象。
在这里插入图片描述

先看一段代码

在这里插入图片描述
里面用到的一些:

属性说明
r.status_codeHTTP请求的返回状态,200表示连接成功,404表示失败
r.text HTTP响应内容的字符串形式,即,url对应的页面内容
r.encoding从HTTP header中猜测的响应内容编码方式
r.apparent_encoding从内容中分析出的响应内容编码方式(备选编码方式)
r.content HTTP响应内容的二进制形式

注意:

这段代码中应该特别注意r.encoding和r.apparent_encoding

r.encoding从HTTP header中charset字段获得编码方式,如果header中不存在charset,则认为编码为ISO‐8859‐1,可以比较上面代码。
r.apparent_encoding根据网页内容分析出的编码方式可以看作是r.encoding的备选,其实就是实实在在的分析内容找到编码。

r.text会根据r.encoding显示网页内容,所以一开始提取内容中乱码,当把正确编码赋值给r.encoding就ok了。

进阶:

在这里插入图片描述

params : 字典或字节序列,作为参数增加到url
12个参数

data字典、字节序列或文件对象,作为Request的内容
jsonJSON格式的数据,作为Request的内容
headers字典,HTTP定制头
cookies字典或CookieJar,Request中的cookie
auth元组,支持HTTP认证功能
files字典类型,传输文件
timeout设定超时时间,秒为单位
proxies字典类型,设定访问代理服务器,可以增加登录认证
allow_redirectsTrue/False,默认为True,重定向开关
streamTrue/False,默认为True,获取内容立即下载开关
verifyTrue/False,默认为True,认证SSL证书开关
cert本地SSL证书路径

2)requests.head()方法

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不吃辣的IT男

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值