scrapy 利用pymysql批量插入数据

最新推荐文章于 2022-06-29 18:10:52 发布

程序猿蓝桉

最新推荐文章于 2022-06-29 18:10:52 发布

阅读量2.2k

点赞数 1

CC 4.0 BY-SA版权

分类专栏：爬虫文章标签：爬虫 scrapy 数据批量入库

本文链接：https://blog.youkuaiyun.com/a3464684/article/details/88867325

本文介绍如何使用Scrapy的pipelines配合PyMySQL实现爬虫数据的批量插入，提高爬取效率。通过设置一个数据列表，当达到一定数量（如1000条）时，一次性插入数据库，显著提升了数据入库速度。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

最近在写爬虫爬取APP的时候通过scrapy的pipelines插入数据库，返回一次item 便插入一条数据，发现运行速度非常慢，一天只爬取了几万条数据。之前记得学习爬虫时，老师曾经提过，每条数据都插入会造成爬取速度非常慢。

所以我改进了一下自己的代码，选择批量插入数据库。每次往数据库中写入1000条数据，代码运行效率有大幅度的提升。本次使用的scrapy+pymysql。下面是我的代码。

在我们创建scrapy工程时会默认创建一个pipelines，我们只需要对这个pipelines进行修改就可以了。

class AppPipeline(object):
data_list = []

def __init__(self):
host = 'xxxxx'
user = 'yourusername'
password = 'yourpassword'
database = 'yourdb'
charset = 'utf8'
self.conn = pymysql.Connect(host=host, user=user, password=password, database=database, charset=charset)
self.cur = self.conn.cursor()

def open_spider(self,spider):

#如果