因为今日头条似乎加入了反爬虫机制,所以ajax爬取今日头条街拍美图这个似乎做不出来了,于是找了微博用户作为替代,感觉两个例子比较相似,然后,个人感觉微博ajax爬取照片比较简单,而且能学到比较多的东西,然后也做出来了,下面是详细的教程:
首先,什么是ajax,ajax是异步的js和xml,具体的作用就是不更新网页的情况下,有新的数据,这个在微博中就非常常见了,我们打开个人主页去刷的时候,网页没有刷新,但是有新的内容更新,这个就是ajax最常见的的了,然后再理解一下,ajax是通过一个连接去找到对应的内容的。
下面,我们去通过微博(这里要注意,只有lite版的网页版微博才能找到ajax的信息,网址是https://m.weibo.cn)的页面进一步理解,以及,找到数据所在的地方,方便后面的爬取:
首先,我们搜索某个用户,并进入他的主页:

(这样才是进入了某个用户的主页哦)
然后按下F12,看他的代码,打开网络,然后筛选器中,筛选frech/xhr,再按下Ctrl+R:
使用Python爬取微博用户照片教程

这篇博客详细介绍了如何通过Python爬取微博用户的所有微博内容及照片。首先讲解了AJAX的基础,然后展示了在微博Lite版网页中查找并解析数据的步骤。博主通过分析卡片数据结构,找到了文字信息和图片链接的存放位置。最后,提供了爬虫代码实现,包括获取GETINDEX连接、解析响应、下载图片等关键步骤,成功抓取并保存了微博图片。
最低0.47元/天 解锁文章
1691

被折叠的 条评论
为什么被折叠?



