KataGo训练历史与技术演进深度解析

KataGo训练历史与技术演进深度解析

KataGo GTP engine and self-play learning in Go 项目地址: https://gitcode.com/gh_mirrors/ka/KataGo

项目概述

KataGo是一个基于深度学习技术的开源围棋AI项目，采用自我对弈训练方法不断提升棋力。该项目在训练过程中经历了多个重要阶段，每个阶段都带来了显著的性能提升和功能增强。

当前训练状态（2024年更新）

KataGo目前正在进行公开分布式训练运行"kata1"，这一训练从g170运行的峰值状态继续发展，已经取得了一定程度的棋力提升。在计算资源受限的情况下，KataGo仍能以80%-90%的胜率击败多个经典围棋AI对手。

历史训练阶段详解

第三次主要训练运行（g170）

2019年12月至2020年6月进行的g170运行是KataGo的第三次重大训练，历时约5个月，取得了突破性进展：

1. 性能突破：仅用12-14天就超越了之前19天的g104运行成果
2. 最终棋力：比前一次运行提升了700Elo以上
3. 新增功能：
   • 支持日本规则
   • 更强的让子棋能力
   • 更精确的分数估算

神经网络架构演进

g170运行采用了多种神经网络架构：

• 小型网络：10块网络几乎达到之前15块网络的强度
• 中型网络：15块网络接近ELFv2（20块网络）的水平
• 大型网络：20/30/40块网络提供了顶尖棋力

对于硬件资源有限的用户，小型网络提供了很好的性能/资源平衡。

训练资源配置

• GPU使用：大部分时间使用46块GPU（40块用于自对弈，4块用于训练，2块用于游戏测试）
• 训练效率：前14天仅用28块GPU就超越了之前运行的成果

技术特点

g170运行前117天遵循"半零"训练标准：

• 使用游戏特定输入特征和辅助训练目标
• 无外部数据使用
• 仅通过高层超参数调整训练过程

后40天开始尝试使用外部数据的实验性方法。

与其他围棋AI的对比

g170运行的最终网络在各种测试条件下显著强于其他主要开源围棋AI：

1. 标准19x19棋盘：显著超越Leela Zero最强的40块网络
2. 9x9小棋盘：在CGOS排名赛中表现优异，使用单块V100 GPU对战专门训练的9x9 AI取得接近50%胜率

早期训练运行

第二次主要运行（g104）

2019年5-6月进行，特点包括：

• 仅用3.5天就超越第一次运行的成果
• 19天后达到的最终强度略强于LZ-ELFv2
• 20块网络在访问次数相当时达到约LZ200的水平

第一次主要运行（g65）

2019年2月进行，特点包括：

• 7天训练达到接近LZ130的强度
• 最高使用35块V100 GPU
• 成果被纳入KataGo研究论文的早期版本

技术演进图表分析

训练效率对比图

图表显示KataGo在训练效率上显著优于其他围棋AI：

• X轴：自对弈计算量（对数尺度）
• Y轴：相对Elo评分
• 曲线显示KataGo以更少的计算资源获得更高的棋力提升

g170运行进展图

详细展示了157天训练过程中的Elo提升：

• 前117天为稳定提升阶段
• 后40天包含实验性调整
• 学习率下降带来明显的性能跳跃

技术要点总结

1. 训练效率：通过架构和训练方法改进，后续运行的训练效率比早期提升1.5-2倍
2. 网络架构：不同规模的网络满足不同硬件需求
3. 多规则支持：增加了对日本规则的支持
4. 评估能力：提升了分数估算的准确性

对开发者的启示

KataGo的训练历史展示了几个关键的技术演进方向：

1. 训练方法优化比单纯增加计算资源更能提升效率
2. 网络架构创新可以在减少参数量的同时保持性能
3. 辅助训练目标对提升AI的理解能力至关重要
4. 渐进式改进比激进变革更能带来稳定的性能提升

这些经验对于开发其他棋类AI或类似的基于自我对弈学习的系统具有重要参考价值。

KataGo GTP engine and self-play learning in Go 项目地址: https://gitcode.com/gh_mirrors/ka/KataGo