scrapy导出csv重新列排序item的问题

原创已于 2024-08-05 14:04:52 修改 · 86 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#scrapy #python #开发语言

于 2019-07-16 17:55:10 首次发布

Python学习专栏收录该内容

11 篇文章

订阅专栏

（1）sv_item_exporter.py

首先，在spiders文件夹下，新建个文件，名叫：csv_item_exporter.py

里面内容为

from scrapy.conf import settings
from scrapy.exporters import CsvItemExporter


class MyProjectCsvItemExporter(CsvItemExporter):

    def __init__(self, *args, **kwargs):
        delimiter = settings.get('CSV_DELIMITER', ',')
        kwargs['delimiter'] = delimiter

        fields_to_export = settings.get('FIELDS_TO_EXPORT', [])
        if fields_to_export:
            kwargs['fields_to_export'] = fields_to_export

        super(MyProjectCsvItemExporter, self).__init__(*args, **kwargs)

（2）设置settings.py配置

在settings.py后面加入下面代码

FEED_EXPORTERS = {
    'csv': 'hotsale.spiders.csv_item_exporter.MyProjectCsvItemExporter',
}

FIELDS_TO_EXPORT = [
    'sid',
    'star',
    'reviews',
    'price',
    'rank',
    'title',
    'salesrank'
]

FIELDS_TO_EXPORT=[]

这个排序字段更换成items.py里面的字段，按需要的顺序排列。