豆瓣top250 爬虫+存储

最新推荐文章于 2025-06-23 10:16:45 发布

天上飞下一毛雪

最新推荐文章于 2025-06-23 10:16:45 发布

阅读量403

点赞数

CC 4.0 BY-SA版权

本文链接：https://blog.youkuaiyun.com/qq_39622065/article/details/79194420

本文介绍了一个使用Python实现的简单爬虫程序，该程序能够抓取豆瓣Top250书籍榜单上的详细信息，包括书名、评分、评价人数及简介等，并将这些数据保存到CSV文件中。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

from lxml import etree    #解析模块
import requests           #请求模块
import time
with open('C:\\Users\\Administrator\\Desktop\\ttop250.csv','w',encoding='utf-8') as f:
#with open('C:\\Users\\Administrator\\Desktop\\top250.txt','w',encoding='utf-8') as f:
    for a in range(10):
        url = 'https://book.douban.com/top250?start={}'.format(a*25)   #URL 遍历
        data = requests.get(url).text              #获得目标url 代码

        s=etree.HTML(data)     #解析下载的数据data
        #获取元素的Xpath信息  file=s.xpath('元素的xpath信息/text()')
        file=s.xpath('//*[@id="content"]/div/div[1]/div/table')   #shift+ctrl+c     右键 copy copyxpath
        #根据不同的需求 修改一下xpath 去掉数组[]  和  /tbody 标签
        time.sleep(3)   #延迟  防止被检测

        for div in file:
            title = div.xpath("./tr/td[2]/div[1]/a/@title")[0]
            href = div.xpath("./tr/td[2]/div[1]/a/@href")[0]
            score=div.xpath("./tr/td[2]/div[2]/span[2]/text()")[0]
            num=div.xpath("./tr/td[2]/div[2]/span[3]/text()")[0].strip("(").strip().strip(")").strip()
            scrible=div.xpath("./tr/td[2]/p[2]/span/text()")

            if len(scrible) > 0:
            #   f.write("书名：{}, 目标网址：{}, 评分：{}, 人数：{}, 评语：{}\n".format(title,href,score,num,scrible[0]))

                f.write("{},{},{},{},{}\n".format(title, href, score, num, scrible[0]))#csv格式 用，分隔
                #出现乱码  用记事本本打开 另存为 编码格式改成ANSI
            else:
                f.write("{},{},{},{}\n".format(title,href,score,num))