requests库(正则提取)爬取千图网
首先分析网页结构
打开千图网的网址搜索春节
打开网页源代码,发现跳转链接存在网页源代码里
接下来我们就利用正则表达式去提取
正则表达式最主要的就是找到你想要信息的标识符,例如上图,一页图片36 张,我们利用stats-point=“1121”>找到的也是36个,所以正则表达式就很好写了。代码如下:
baseurllist=re.findall('stats-point="1121"><a href="(.*?)" target="_blank" data-id',req.text)
print(baseurllist)
这样我们就可以得到一页里所有图片的跳转链接,以列表的形式返回,然后就可以去跳转链接里拿图片的大图了,首页展示的都是图片的缩略图,我们的目标是拿完整大图
随便打开一个跳转链接,分析跳转链接的网页结构
打开跳转页面的源代码
发现<meta property=“og:image” content="是图片链接的唯一标识符,所以:
photourl=re.findall('<meta property="og:image" content="(.*?)"',rsq.text)
photourl1=