抓取淘宝商品信息爬虫

目标:获取淘宝搜索页面信息,爬取商品的名称和价格

方法:淘宝的搜索接口

          翻页处理

库:requests

对比网址:

起始页  
第二页 s=44
第三页 s=88

得到    第n页是s=(n-1)*44

淘宝网站的robots协议(一般网站的robots协议约定放在网站的主目录下的/robots.txt中)

可以看出爬虫不得对淘宝的搜索页面进行爬取(爬取速度就像人类的速度则是允许的)

User-agent 用户(叫爬虫种类或者名称)
Allow 允许爬取的目录
Disallow 不允许爬取的目录

程序结构:

1.提交商品搜索请求,循环获得页面

2.从每个页面中提取商品的名称和价格信息

3.打印输出

以搜索鞋为例:


结论:raw_title和view_price分别对应名称和价格

代码:

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值