requests模块

本文详细介绍如何使用Python的requests库进行网络爬虫的基本请求操作,包括GET和POST请求的发送、响应处理、解决乱码问题的方法、设置请求头、处理超时及cookie等关键步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

使用事前

  • pip install requests

发送get请求和post请求。获取响应

  • response = requests.get(url) # 发送get请求,请求URL地址对应的响应,结果用response接收
    response.get
    在这里插入图片描述
  • response = requests.post(url,data={请求体的字典} # 请求post
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

response的方法

  • response.text

    • 该方式往往会出现乱码
    • 在这里插入图片描述
    • 出现乱码使用response.encoding=“utf-8”(为什么使用utf-8?因为大部分的网页都用的utf-8编码,所以一般情况下都是)
    • 在这里插入图片描述
  • 第二个方法:response.content.decode() # decode python3默认utf-8解码

    • 把响应的二进制字节流转化为str类型
    • 在这里插入图片描述
    • 在这里插入图片描述
    • response.request.url # 发送请求的url
    • response.url # response响应的url地址
    • response.request.headers # 请求头
    • response.headers # 响应头

获取网页源码正确的打开方式(通过下面三种方式一定能够获取到网页的正确解码之后的字符串)(python3)

  • 1、response.content.decode() # 如果不可行就要考虑第二种思路
  • 2、response.content.decode(‘gbk’)
  • 3、response.text

发送带header的请求

  • 为了模拟浏览器,获取和浏览器一模一样的内容
  • 大部分情况下,我们只需要带上user-agent就可以获取,如果不行,我们就可以考虑把除了cookie的其他参数带上,如果还不行,我们就要考虑带上cookie了
    在这里插入图片描述

使用超时参数

request.get(url,headers= headers,timeout - 3) # 3秒内必须返回响应,否则会报错

处理cookie相关的请求

在这里插入图片描述

session模块(模拟登录)

当我们使用session时候,我们并没有真正去操作cookie,因为session模块已经将cookie处理的非常完善了,而且使用简单,唯一和requests区别的就是多了一个帮助我们保存cookie的功能

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值