校招生做大模型，选预训练还是SFT？

我推荐选 pretrain，理由如下：

pretrain 提高工程能力，sft 提高认知能力

作为校招新人，你的当务之急只有一条：提升工程代码能力！我们拆解一下两个团队所需要的技能，你判断下哪个提升代码能力更快。

在 pretrain 团队，你的必修课有：爬取互联网数据，大规模数据清洗与去重（hadoop、spark等），配置各种 torch 和 cuda 环境，搞懂、修改、优化 megatron 的代码，熟练 debug 多机通讯报错，成熟的炼丹技巧（数据配比，学习率，优化器，课程学习，分析 loss 曲线、scaling_law），跑通各 benchmark 验证模型能力；

在 sft 团队，训练框架和炼丹技巧只属于选修课，往往公司不给你时间学习，你的必修课大概只包含以下内容：手动标数据，用 gpt4 标数据，教会标注人员标数据，利用用户反馈标数据，根据实验结果优化数据，参考论文去合成数据。

pretrain 转 sft 的难度，小于 sft 转 pretrain 的难度

基于两个方向的必修课不一样，pretrain 团队的同学能轻松上手 sft 的工作，sft 团队的同学则不能快速接手 pretrain 的工作。毕竟，两个团队核心技术不同：

• pretrain 的核心技术：训练代码

• sft 的核心技术：训练数据

所以，当你从 pretrain 转去做 sft，花一天时间看一下训练数据，就可以开始干活了；但当你从 sft 转去做 pretrain，你可能得花两周时间学习 megatron，才能开始干活。

pretrain 的杂活比 sft 的杂活更能锻炼新人

前面列举了两个方向的工作内容，假设你作为新人只配去做数据工作这种杂活，那我们就再来仔细看下两个团队的杂活都是什么？

• pretrain 的杂活是从海量较脏的互联网数据中清洗出有意义的、干净的训练数据。大概包括：训个小模型给数据打分，写大量规则去除网页文档里的垃圾语料，研究某个 domain 数据的数据特征并想办法过滤该 domain 数据；

• sft 的杂活大概是：手动标数据，不断拿 GPT4 试出效果最好的 prompt 来标数据。

言尽于此，哪个杂活更能锻炼人我就不再分析了。

新人应该选最难的工作

pretrain 方向的最大痛点是什么？

短期内没有收益、长期训不过 llama、qwen，老板会选择拥抱开源。但是，你是校招新人，他不敢裁你。趁着你有“校招生”这个护身符，去做最难的工作、快速成长自己，丰满羽翼，有社会舆论和国家政策保护在，你只要别乱执行 rm -rf *，就都是安全的。

再过三两年，可能你就不能选有技术的活，而只能选有收益的活了。

---

我并没有说 sft 都是标数据的没意义的工作，我曾在另一个回答中力挺 sft 是有技术含量的。我只不过是认为，pretrain 能快速提升工程能力，这对新人非常可贵。成熟一点的程序员，写 hadoop、训 BERT 已经玩得滚瓜烂熟了，多跑一些 sft，找一找大模型的 feel 非常重要，但新人只需要去学习扎实的基本功。

很多人都说，新人只会被分配去打杂，与其去 pretrain 洗数据，不如去 sft 拿收益。但是，孟母三迁的故事并没有过时，人是有眼有腿的啊，可以主动去学习的，在 pretrain 团队，老板不让你做 scaling_law，但是总不能不让你看 scaling_law 的 wiki 吧，总不能不让你请教同事吧。（这段话同样说给选 sft 工作的新人，我们是可以主动去选择学习 pretrain 相关的知识的，不要被工作内容桎梏了眼界和学习范围）

不管选择哪个团队，记得抱紧大佬同事大腿，多学多问，“喊声爸爸，换一份 megatron 的训练代码与教程”，这买卖不亏，我就干过。