实现的功能

输入想要爬取微信公众号文章的链接,爬取成功后会输出文件夹已经创建(代码创建位置在D:\test)

将爬取到的图片放入文件夹中,并且文件夹的名字为该文章的标题:


需要用到的库
获取文章信息需要的库:beautifulsoup4,requests;
需要对html一些标签有一定的了解
可以到w3cschool了解
将微信公众号文章复制链接,然后电脑浏览器打开,按F12开发者工具,或者右键点击查看源,就可以看到网页的源代码。
代码设计思想
1、网页通过request请求获得网页源代码,再通过bs4(beautifulsoup)来对源代码进行提取信息;
文章标题的获取:
2、通过观察微信公众号文章网页源代码,可以发现,文章的标题大部分都是存放在h2标签里面的(大部分,我目前看到的都是h2标签)


那么就可以用bs.select(‘h2’)[0].text来获取文章的标题,用于待会文件夹的命名。
3、又由于文件夹命名有些符号是不合法的,避免文件夹创建报错,那么就用正则将获取的标题进一步筛选,去掉除了中文、数字、英文的其它字或者符号。
文章图片的获取:
4、一般网页中图片的标签都用到img标签和2一样就可以用bs.select(‘img’)获取网页中所有有img标签的代码,但是这样还是太广泛了,需要进一步进行筛选
5、那么查看网页

最低0.47元/天 解锁文章
5926

被折叠的 条评论
为什么被折叠?



