python 运用requests库 以及 正则表达式 爬取小说实例以及心得

笔者标注部分:

笔者技艺不精,若文章中有错误之处,还望各位大佬海涵,笔者希望与大家共同进步
此外笔者推荐python3以上的编辑器,因为过程中会出现一些编码问题,python2系列可能会将问题复杂化,
笔者采用python3.6进行演示
爬取网站内容:某网站小说(至于哪个网站,自行看代码)
robots协议:人工查看,无robots协议,可合法的对网站的爬取(若您对robots协议不熟悉,可询问小杜)
整体过程是,我们先通过requests库,得到网页源代码,再通过re(正则表达式)的筛选得到文章,
然后循环写入txt文件中。
废话不多说,我们直接开始。

# 笔者采用了pycharm来进行脚本的编写

如您未安装requests库,可在终端输入

评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值