AI大模型在训练和推理时发生了什么？大模型入门到精通，收藏这篇就足够了！

关注

原创最新推荐文章于 2026-03-21 01:02:48 发布 463 阅读 AI 写同款· GEO 优化 ›

一、 费曼学习法：以教为学，化繁为简

费曼曾说：“如果你不能向一个六岁孩子解释清楚，说明你自己也没真正理解。”以输出倒逼输入的学习被公认为最有效的学习方法。大语言模型的学习和推理过程就遵循了费曼学习法，大语言模型的价值在于根据已有认知回答未知的问题，也就是大模型的泛化能力，这就要求它不能死记硬背，而是要融会贯通。

1，大模型从学习到推理的智慧

假如我们面临一场考试，考试内容来自于课本，但不会考原文，我们就不能机械背诵，而要在理解内容的基础上触类旁通。

大模型的学习包括两个阶段：

1.预训练：读万卷书，建立知识框架；

2.微调：有针对性的突破重难点，精准聚焦专业知识。

书本对应训练数据，考试对应推理过程，考试结果有三种：

1.欠拟合：没有掌握书本的知识，考试翻车了。

2.拟合：不仅会书本的知识，还能举一反三，对答如流。

3.过拟合：虽然书本知识掌握了，但是不能举一反三，不能触类旁通，学成了“书呆子”。

二、形神兼备，形——神经网络结构,神——大模型的参数

**1.**大模型的参数——基因

通过感知机理解大模型的参数是什么？

假设体育综合考试成绩由短跑和跳绳两门组成，其中短跑的分数占比为W1，跳绳占比为W2，最终成绩可以表示为短跑分数+跳绳分数，及格线是θ，如果最终成绩大于或等于θ则通过考试（输出1），如果最终成绩小于θ则不通过考试（输出0）。

其中短跑和跳绳的成绩占比，也叫权重用W表示，及格线θ，W和θ就是感知机的参数。

首先需要确定合理的参数，可以一组样本数据来计算满足要求的权重W和及格线θ，这一过程就可以理解为大模型的学习过程。

首先，参数初始化

随机分配W和θ（如W1=0.5, W2=0.5, θ=60）

学生A：短跑60分，跳绳80分 → 总分=60×0.5+80×0.5=70（及格）

学生B：短跑50分，跳绳50分 → 总分=50×0.5+50×0.5=50（不及格）

接下来，调整参数

降低θ或调整权重，平衡公平性与通过率，找到最佳的参数组合，假设W1=0.6, W2=0.4, θ=60，用它们计算学生的成绩：

学生A：X1=70，X2=50，成绩：70*0.6+50*0.4=62>60，及格

学生B：X1=80，X2=60，成绩：80*0.6+60*0.4=72>60，及格

学生C：X1=60，X2=50，成绩：60*0.6+50*0.4=56<60，不及格

用X和Y计算参数W和θ对应大模型的学习过程，而用特定的W和θ计算输入X对应的输出Y对应了大模型的推理过程。

这里参数只有两个，真实的大模型参数往往以亿为单位计算，例如llama2:7B有70亿个参数，DeepSeek 671B有6710亿个参数。如此规模的参数量远远超过了人的计算能力。

实际的神经网络结构往往很复杂，例如层数、全连接结构、每层的神经元个数等因素直接影响了大模型的推理结果。神经网络结构太简单推理能力差，结构太复杂会造成过拟合，除了输入层和输出层，其他统称为中间层，也叫隐藏层，如下图所示。

假设输入是10行100列的矩阵，W1是100行50列的矩阵[100,50]，则根据矩阵乘法运算第一层结果R1=[10*100] dot [100*50]，得到10 * 50的矩阵，假设W2是50行1列的矩阵[50，1]，则第二层结果R2=[10*50]dot[50*1]=[10*1],输出层对第二层的结果进行正规化处理，所以矩阵形状相同，最终输出Y是[10,1]的矩阵。

两层神经网络结构

总结，神经网络结构决定了大模型的形，而参数决定了大模型的神，其中，人设计了大模型的形，而大模型自己学习了神。虽然参数由大模型自己学习得来，但是人可以通过超参数来干预训练过程，超参数是用来调节参数的参数。

**二、**大模型的开关和滤镜——激活函数

1.信号开关——激活函数

如果θ，就输出1，否则输出0，用函数表示，如下图所示。

其中h(z)就是激活函数，决定了这条通路能被“激活”的难易程度。上例中超过某阈值就输出1，否则输出0的阈值型函数，叫做单位阶跃函数（Unit Step Function），用图形表示如下图所示。

单位阶跃函数图

除了单位阶跃函数，还有很多种激活函数，如Sigmoid 、Tanh 、ReLU 、Softmax 、Swish 、ELU 等，下面介绍两种常用的激活函数Sigmoid 和ReLU 。

Sigmoid函数如图2所示，不同于阶跃函数，Sigmoid函数是一条平滑曲线，输出在0到1之间，随着输入的增大，输出越来越接近1，随着输入的减小，输出越来越接近0。

Sigmoid函数图

ReLu函数也是一种使用广泛的激活函数，当输入大于0时输出X，输入小于0时输出0，如下图所示。

ReLu函数图

**2.**线性函数不能做激活函数

激活函数必须是非线性函数，因为线性函数无论嵌套多少层还是线性函数，无法通过加深神经网络结构来处理复杂问题，也就失去了加深层级的意义。

两层神经网络的数据传递示意图

2.最后一公里的输出层

输出层的激活函数常常和前面隐藏层的激活函数不同，因为中间层的激活函数为了推导出正确的结果，而输出层的激活函数为了正规化（normalize）输出结果。

机器学习中的问题一般分成两类：分类和回归，分类就是将输入数据分到某一类别，例如将输入的动物图片分成猫、狗等；回归问题就是用输入值预测输出值。

分类问题的输出层常使用Softmax函数作为激活函数，Softmax函数的主要作用是将一个K维向量（表示每个类别的原始预测分数）转换成一个元素范围都在(0, 1)之间K维向量，并且所有元素的和为1。

例如将输入图片分类，类型包括A，B，C，D四类，如果输出为[0.1,0.2,0.8,0.2]说明属于A类的概率是10%，属于B类的概率是20%，属于C类的概率是80%，属于D类的概率是20%，则最终答案取概率最大的C。还可以将数据表示为one-hot的形式，就是正确值为1，其他为0，上面例子用one-hot表示为[0,0,1,0]。回归问题常用恒等函数作为输出层的激活函数。

恒等函数

**三、**检验结果的时刻到了——损失函数

以冰壶运动的积分标准为例，哪个队伍的壶离圆心更近，得分越高，下图中黄色的壶得分比红色高。

如果把圆心比作标准答案，壶和圆心的距离表明了结果的好坏程度，同样的道理，模型最终的输出结果和正确结果之间的距离也代表了模型的成绩，这个距离就可以理解为损失函数。

损失函数常用的计算方式：

**1.**均方误差（Mean Squared Error，MSE）：离标准答案有多远？

均方误差通过计算实际输出值和正确值之间误差的平方和，来确定损失函数。

y是真实输出，t是监督数据，也就是标准答案，用均方误差作为损失函数计算的值E就是输出y和标准答案的接近程度，E的值越小代表输出和标准答案越接近。

例如实际输出y1和y2如下所示，

y1=[0.1,0.2,0.2,0.7,0.3,0.2,0.5]

y2=[0.4,0.1,0.1,0.3,0.6,0.1,0.2]

标准答案：t=[0,0,0,1,0,0,0]

其中y1中概率最大的是第四个元素，y2中概率最大的是第五个元素，监督数据t显示正确答案是第四个元素，则y1的结果是正确的，应该离“圆心”更近，损失函数应该越小。下面来计算它们的损失函数：

分别计算y1和y2的均方误差

y 1平方差总和：0.01 + 0.04 + 0.04 + 0.09 + 0.09 + 0.04 + 0.25 = 0.56

y1均方误差：0.56 / 7 = 0.08

y2平方差总和：0.16 + 0.01 + 0.01 + 0.49 + 0.36 + 0.01 + 0.04 = 1.08

y2均方误差：1.08 / 7 = 0.1543

结论：y1的损失函数比y2小，y1是正确输出结果，符合实际情况。

**2.**交叉熵误差（Cross-Entropy Loss）：概率的“信任危机”

除了均方误差，交叉熵误差也是常用的损失函数，计算公式如下：

其中log表示以e为底的自然对数，仍然以上面的数据为例，用交叉熵误差计算损失函数：

y1的交叉熵误差为0.3567

y2的交叉熵误差为 1.2040

结论：y1的损失函数比y2小，y1是正确输出结果，符合真实情况。

**3.**损失函数这张成绩单该怎么看？

模型学习的最终目的就是找到使损失函数最小的参数W和θ，随着学习的进行，损失函数应该呈现逐渐下降的趋势，如下图所示。一开始损失函数很高，说明还没学会，前期损失函数急剧下降，学习很快，后期变化缓慢，说明大部分知识都掌握了，提升空间有限。最终对应的损失函数在0.7左右，也就是学到了99.3%的知识。

损失函数曲线图

当发生过拟合时，训练数据的损失函数很小，但是测试数据的损失函数很大，说明对课本知识掌握的很牢固，而课本以外的知识不会举一反三。过拟合的损失函数如下图所示。

过拟合损失函数曲线图

**四、**怎样调整参数使损失函数更小

**1.**怎样找到使损失函数更小的参数调节方向？

晃板是一项杂技，在圆球上放置木板，根据木板倾斜的方向调整重心，如下图所示，保持平衡的秘诀是迅速调整重心，左边低了重心右移，右边低了重心左移。木板和下面的圆球的本质关系是导数，木板是圆球在接触点的导数，导数表示的是曲线在该点接下来的运动方向。

既然要找到损失函数最的低谷期，按照晃板的思路，问题变成找到损失函数变小的参数调整方向。

下图是损失函数随权重W的变化曲线，选取两个点w1和w2，用导数的思路，找到这两个点的参数应该调大还是调小，才能使损失函数更小。其中蓝色的线是损失函数在这两点的导数，反应了w的微小变化对损失函数的影响，可以想象这两个点上有一个人在玩晃板寻找平衡，例如w1点的导数是负方向，意味着w1应该往相反的正方向移动，才能使损失函数更小。而w2的导数是正方向的，意味着w2往相反的负方向移动，才会使损失函数更小。

损失函数随权重变化曲线

上面的例子只对一个变量W求导数，大模型的参数有很多，对多个变量如何求导数？看一个例子，包含两个变量，对多变量求导数叫做偏导数，**偏导数就是保持一个变量变化，而所有其他变量恒定不变的求导过程。**求f关于X1导数时，先固定X0=1：

关于所有变量的偏导数构成的向量[,]就叫做梯度。

**2.**找到最快下山的路

假设登山队员刚刚到达山顶就下起了瓢泼大雨，怎样才能找到最快下山的路呢？找到当前点最陡的路，走到下一个点，再找最陡的路，以此类推，找到最快下山的路，这就是梯度下降法的思路。

如计算的梯度并在图中表示，所有梯度的向量都指向同一个方向，这个方向就是f（）函数的谷底，因为梯度表示的就是某点相对于函数的减小最多的方向。

沿着梯度下降的方向就能找到损失函数的最小值，这就是梯度下降法。

用梯度下降法计算w1的新值：，其中η决定了移动的距离，叫做学习率，学习率对模型精度和性能有很大影响，例如学习率太大了精准性差，太小了学习时间长，就像我们走路，步子迈大了不能精准定位到目标，步子迈小了走得慢。学习率设多大最合适没有固定的标准，可以采用动态学习率，如果距离目的地很远就迈大步，距离目的地很近就以小步慢慢逼近。

**五、**反向传播

从输入乘以权重加上偏置，得到的结果用激活函数计算输出，这个过程是正向传播，反方向从输出向输入的方向叫做反向传播。反向传播只用在学习过程中，将结果返回给输入，告知其距离标准答案有多远，需要调整哪些参数，每个参数应该调大还是调小，调整幅度多大。

1.随机梯度下降法（Stochastic Gradient Descent, SGD）

梯度下降法计算出参数的调整方向和幅度，循环迭代，逐渐逼近最优解，叫做随机梯度下降法（Stochastic Gradient Descent, SGD）。

参数值为，从这个公式发现，计算参数的值W1只需要知道L关于w1的导数，所以问题就变成求损失函数L关于参数W和偏置B的偏导数了。

如下图所示，反向传播可以计算每个阶段的局部偏导数，这里使用了链式法则，通过链式法则可以将偏导数向前传递，如下图所示，从而最终得到损失函数L关于输入W和B的偏导数，也就是W和B怎样移动能使L更小。

根据链式法则，+号节点左侧的偏导数直接等于右侧的偏导数，而乘积dot左侧的偏导数等于右侧偏导数乘以另一分支的转置，注意这里要用乘法另一个乘数的转置，为什么是另一个乘数，因为。

最终计算损失函数关于参数w和b的偏导数结果为：

SGD的缺点是在某些场景下效率不高，参数更新路径如下图所示：

相比SGD，另一种优化方法Momentum有时效率更高，Momentum的参数更新路径如图所示：

除了上面两种参数优化方法，还有AdaGrad，Adam等，具体哪种方法效果最好，没有固定统一的标准，要根据大模型解决的业务场景而异。

六、参数的初始值如何设置

大模型学习的目的是为了更新参数，在学习之初，应该如何初始化参数呢？权重太大容易导致过拟合，一开始就把权重设置的很小，是否可以避免过拟合呢，如果将权重设置成0，的结果等于b，第一层神经网络的输出全部一样，第二层神经网络输入相同并且权重也为0，就造成了一种权重和参数对称的现象，叫做“权重均一化”，训练就无法进行下去，为了使神经网络具备多样性，需要设置不同的权重，下面介绍几种权重初始化方法：