2.7 暴力美学GPT进化史：从1.17亿到1.8万亿参数的指数级跃迁

暴力美学GPT进化史：从1.17亿到1.8万亿参数的指数级跃迁

---

一、暴力美学定律：算力、数据、参数的三角飞轮

GPT系列演进数据全景

模型	发布时间	参数量	训练数据量	训练成本（万美元）	关键突破
GPT-1	2018.06	1.17亿	5GB	4.3	预训练+微调范式确立
GPT-2	2019.02	15亿	40GB	120	零样本学习能力涌现
GPT-3	2020.05	1750亿	45TB	460	上下文学习（In-context）
GPT-3.5	2022.03	2000亿	120TB	630