小弟现在用这个框架写个爬虫。
爬取列表页,在列表页中找到详情地址,调用page.addTargetRequest(url)爬取详情页也没问题。
但是添加下一页的url到这个队列中缺没用了,也就是不能爬取下一页的列表。
小弟卡在这两天了也没解决了,还请哪位大哥指点一下,
小弟现在用这个框架写个爬虫。
爬取列表页,在列表页中找到详情地址,调用page.addTargetRequest(url)爬取详情页也没问题。
但是添加下一页的url到这个队列中缺没用了,也就是不能爬取下一页的列表。
小弟卡在这两天了也没解决了,还请哪位大哥指点一下,