爬取内容到本地为乱码格式解决方案

爬取四大名著:

学习其他博主爬取四大名著下载到本地时发现是乱码格式,找到解决办法与大家分享

问题描述:

  1. 错误代码
 # 获取html
    def get_html(self, url):
        result = requests.get(url=url,headers=self.headers)
        return BeautifulSoup(result.text, 'lxml')
  1. 错误代码运行结果
    在这里插入图片描述

  2. 正确代码

 # 获取html
    def get_html(self, url):
        result = requests.get(url=url,headers=self.headers)
        # 注意,一定要加下面这一句,否则下载下来的内容会出现乱码,根据网页源码查看属于utf-8,所以要将其转化成和网页源码一样,下面就是一个转化方式
        result.encoding = "utf-8"
        return BeautifulSoup(result.text, 'lxml')
  1. 正确代码运行结果
    在这里插入图片描述
    在这里插入图片描述

原因分析:

Requests推测的文本编码与源网页编码不一致,因此会导致乱码问题的出现

解决方案:

具体可见链接:https://www.cnblogs.com/tufeixiaopengyou/p/14385389.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值