接上一步
scrapy爬虫框架初实现爬取豆瓣电影top250-优快云博客
创建成功scrapy项目后,左侧pipelines即为管道
1.使用管道将爬取到的数据写入Excel
打开 pipelines.py,里面自动有process_item,处理对象方法。
(1)pip install openpyxl 导入工具包
要将数据写入到Excel文件中,要先创造文件,写在构造方法中
(2)管道部分完整代码
from itemadapter import ItemAdapter
import openpyxl
class TestspiderPipeline:
def __init__(self):
self.wb = openpyxl.Workbook() #创建一个工作簿对象
self.ws = self.wb.active #拿到默认以及激活的工作表
self.ws.title = 'Top250' #