
srcpay
master_ning
master_ning,不定期分享最有用,最实在的原创内容
展开
-
scrapy的request的meta参数是什么意思?
meta是一个字典,主要是用解析函数之间传递值,常见的情况是:在parse中给item某些字段提取了值,但是另外一些值需要在parse2中提取,这时候需要将parse中的item传到parse2方法中处理,显然无法直接给parse2设置而外参数。 Request对象接受一个meta参数,一个字典对象,同时Response对象有一个meta属性可以取到相应request传过来的meta。实例函数如下...原创 2018-06-03 19:06:02 · 8150 阅读 · 0 评论 -
使用scrapy进行模拟登陆三种方式
scrapy有三种方法模拟登陆方式:- 直接携带cookies- 找url地址,发送post请求存储cookie- 找到对应的form表单,自动解析input标签,自动解析post请求的url地址,自动带上数据,自动发送请求1、携带cookies登陆githubimport scrapyimport reclass Login1Spider(scrapy.Spider): nam...原创 2018-06-06 00:02:23 · 6111 阅读 · 0 评论