项目中遇到,从一个数据库A采集数据,然后插入到另一个数据库B中的需求。因为数据量很大,达到千万级。最开始我们采用的方案是,使用是将A中的数据通过fetch_all()的方式赋值给变量,然后分批次的插到数据库B中。这样的问题有两个,一是通过fetch_all将几千万级的数据赋值给变量,会导致内存使用突增,二是分批次插数据库,耗时也是非常长的。所以我们考虑使用
insert into ... select from的方式来解决这个问题,事实证明,这样确实会快很多。
项目中遇到,从一个数据库A采集数据,然后插入到另一个数据库B中的需求。因为数据量很大,达到千万级。最开始我们采用的方案是,使用是将A中的数据通过fetch_all()的方式赋值给变量,然后分批次的插到数据库B中。这样的问题有两个,一是通过fetch_all将几千万级的数据赋值给变量,会导致内存使用突增,二是分批次插数据库,耗时也是非常长的。所以我们考虑使用
insert into ... select from的方式来解决这个问题,事实证明,这样确实会快很多。