本文探讨了如何优化MySQL ETL性能，包括分区表、rewriteBatchedStatements、on duplicate key update、索引策略、大事务拆分、文件导入导出以及执行计划分析。通过分区表并行插入和减少索引维护提高性能，启用rewriteBatchedStatements减少网络开销，利用on duplicate key update简化逻辑，合理创建和使用索引，拆分大事务以及优化文件导入导出过程。
mysql
一、分区表
分区表是将表数据分割成多个较小的分区,每个分区可以独立地进行管理和维护。通过将数据分布在多个分区中,可以提高插入操作的性能
当数据量较大时,如超过500w就可以建立分区表
- 并行插入:当使用分区表时，可以将数据分成多个分区，并行地插入数据到不同的分区中。这样可以利用多个插入线程同时将数据写入不同的分区，从而提高插入的并发性能。
- 减少索引维护:对于有索引的表，插入操作会触发索引的维护，包括索引的更新和重新排序。在分区表中，可以将索引分布在不同的分区上，每个分区只需维护自己的索引，减少了整体索引维护的开销。
- 快速删除和清理:分区表可以更快速地删除或清理数据。例如，如果需要删除某个时间范围内的数据，可以直接删除相应分区，而不需要扫描整个表。
<一>、按年分区
eg:
create table test(
id int 
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
