爬虫返回数据 16进制编码问题

昨天分析爬虫接口时 发现返回数据 json转化时出错 经过检查发现问题是 json字符串中有 \x3E\x2F这种编码字符串,
开始解决思路就是把16进制转化为普通字符串结果不行

原因

编码问题 本来这些返回数据是需要前端js 去解析的
\x 开头的16进制数据 是js的表示方法
0x 开头 才是python 16进制的表示方法
所以返回的数据不处理 直接用python 去解析会出现异常

解决办法

在 处理之前 先对返回的数据 进行编码格式处理

res = response.content.decode('unicode_escape').encode('latin1').decode()

当然如果你是要直接对字符串进行处理的话 需要先转成字节码 然后对字节数据进行编码
可以用下边的方式

res = bytes(res_str, 'utf-8').decode('unicode_escape').encode('latin1').decode('utf-8')
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值