scrapy框架存储数据到excel

最新推荐文章于 2024-07-23 17:03:32 发布

qq_571516248

最新推荐文章于 2024-07-23 17:03:32 发布

阅读量1k

点赞数

本文链接：https://blog.youkuaiyun.com/qq_38746842/article/details/89921539

版权

这段博客内容展示了Python代码，利用openpyxl库创建Excel文件并设置表头，在TuniuPipeline类的process_item方法中，将爬虫获取的微博数据按行添加到Excel文件里，最后保存为web.xlsx文件。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

from openpyxl import Workbook
class TuniuPipeline(object):
    def __init__(self):
        #创建excel，填写表头
        self.wb = Workbook()
        self.ws = self.wb.active
        self.ws.append(['用户id', 'source', 'raw_txt', 'txt', ])  # 设置表头
    def process_item(self, item, spider):  # 具体内容
        if isinstance(item,WeiboItem):
            line = [item['id'],  item['source'], item['raw_text'], item['text']]  # 把数据中项整理出来
            self.ws.append(line)  # 将数据需要保存的项以行的形式添加到xlsx中
            self.wb.save(r'D:\pycharm\爬虫\csv\web.xlsx')  # 保存xlsx文件
        return item


如图所示