python爬虫教程(3)-requests爬取静态网页

本文是Python爬虫教程的第三部分,主要介绍如何使用requests库抓取静态网页。讲解了如何获取响应内容,理解响应的属性如.text、.encoding、.status_code和.content。此外,详细阐述了定制请求头的方法,通过Chrome浏览器的网络检查工具找到并复制user-agent,以及设置超时处理避免长时间等待导致的程序阻塞。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

欢迎来到python爬虫大讲堂,现在开始你的爬虫旅程吧!

静态网页

在网站中,纯HTML格式的网页被称为静态网页,在我们的爬虫中,静态网页较容易获取,因为页面上的内容都在HTML代码上,关于静态网页,我们可以使用requests库,之前我们已经安装过requests库了,所以我们直接开始:

获取相应内容

import requests
r=requests.get('https://blog.youkuaiyun.com/weixin_42183408')
print("文本编码:",r.encoding)
print("响应状态码:",r.status_code)
print("字符串方式的响应体:",r.text)

你会得到这样:
在这里插入图片描述
接下来我们来看看说明:

  • r.text:服务器响应内容,就是HTML编码
  • r.encoding:服务器的文本编码
  • r.status_code:响应的状态码,如果是200则代表访问成功
  • r.content:字节方式的响应体

定制requests

定制请求头

请求头headers提供了信息,对于爬虫来说,一个程序几乎都会定制请求头,那么我们来看看如何找到网页请求头:

打开chrome浏览器的检查功能,在与elements同行中选择network:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值