scrapy xpath 然后extract返回的是unicode类型, 可以考虑转换为utf-8或者其他编码类型

本文解决了Scrapy爬虫中因编码差异导致的设置值无法正确比较的问题。介绍了如何将XPath提取的数据转换为统一格式进行比较,确保了爬虫按预期抓取目标数据。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

遇到了这样一个问题。在scrapy中,通过启动时候传入settings控制抓取范围

scrapy crawl spiderName -s crawl_target=食品

然后在parse里面xpath找出来区域,判断 settings.crawl_target =? xpath.extract()


但是一直比较不出来,即使 食品 = 食品 这样两个print出来一样,但是 食品 != 食品

这是因为传进来的是编码过后的二进制str 类型,而extract 返回的是Unicode

详见

http://scrapy-chs.readthedocs.io/zh_CN/0.24/topics/selectors.html#scrapy.selector.SelectorList




故需要转化一次才能正确被比较


转化可以是  extract()[index].encode("utf-8")  当然也可以用发现的快捷方式

直接 str(......extract() )


来个str就好

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值