用Python爬取笔趣网小说，一次看个爽

最新推荐文章于 2021-07-20 16:15:49 发布

原创

最新推荐文章于 2021-07-20 16:15:49 发布 · 743 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#python #爬虫 #程序员 #Python基础入门 #经验分享

本文介绍了如何使用Python爬虫抓取笔趣网上的小说信息，包括导入相关模块、发送请求、解码问题、数据提取、详情页分析以及数据下载。在解析网页时注意了解网页编码，确保数据正确解析。文章提供了详细的步骤和技巧，并分享了作者的学习资源和技术交流群。

在这里插入图片描述

一、首先导入相关的模块

import os
import requests
from bs4 import BeautifulSoup

二、向网站发送请求并获取网站数据

在这里插入图片描述

网站链接最后的一位数字为一本书的id值，一个数字对应一本小说，然后以id为1的小说为示例。

进入到网站之后，会发现有一个章节列表，那么首先完成对小说列表名称的抓取

# 声明请求头
headers = {
   
   
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/88.0.4324.182 Safari/537.36'
}
 
# 创建保存小说文本的文件夹
if not os.path.exists('./小说'):
    os.mkdir('./小说/')
     
# 访问网站并获取页面数据
response = requests.get(