百度飞桨大模型训练营：人工智能与大语言模型

生成式AI、提示词工程和零代码应用开发

人工智能概念

这里我们逐一解释这些概念

• AI是计算机学科下的一个分支学科，旨在使用计算机使之能像人类一样学习和思考问题
• 机器学习是AI的一个子集，他的一个重要特点就是不需要人去做显示编程（不用手撕函数），让计算机自行学习迭代总结规律，做出预测和决策

机器学习

机器学习下就有很多分支了，例如监督学习、无监督学习、强化学习

• 监督学习目标是学习原始数据和标签之间的映射关系，他的一个特点就是是给定了原始数据和标签，让计算机自行总结归纳，他的经典的应用有对事物的分类、回归预测等
• 无监督学习就是相对于监督学习，他只给原始数据而不给定标签，让计算机自行发现数据中的模式或规律，他的应用有聚类（就是分组）、降维、异值检测、自编码器（大语言模型中用到）、自监督学习等
• 强化学习就是让模型在环境中采取行动，不断尝试，让他在环境中获得最大奖励的手段，类似于人类学习的模式，趋利避害，例如Alpha Go

深度学习

深度学习具有这三类学习的一些特点，也有自己的模式，属于都有点但都不是的状态

关于深度学习的核心就是两个词，一是连接，二是深度

连接的意思是说，他采用了类似于神经元的模式，互相连接，而深度则是指一层一层的神经元来进行映射

深度学习有一个很经典的应用就是识别手写的数字，通过输入，进行一层一层的运算，让计算机逐渐掌握这些数字更深层次的特征，从而输出正确的结果

关于深度学习的过程一般有如下几个步骤

数据准备、模型构建、损失函数定义、优化器选择、模型训练、模型评估与调优、模型应用与部署

这些步骤里面最最重要的其实是模型训练这一步

这里有一些基本步骤的概念我们需要了解到

1. 前向传播：将训练数据输入到模型中，经过各层的计算得到输出
2. 计算损失：根据损失函数计算模型的输出与真实标签之间的损失值
3. 反向传播：根据损失值计算梯度，并讲梯度反向传播到模型的每一层
4. 参数更新：使用优化器根据梯度信息更新模型的权重参数
5. 迭代训练：重复上述步骤，直到在验证集上的性能达到满意水平或达到预设的训练轮数

那么生成式AI其实就是深度学习的一种应用，而大语言模型并不都是生成式AI，生成式AI也不都是大语言模型，例如文生图、文生视频，还有谷歌的Bert模型都是特例

大语言模型

大语言模型又称为LLM（l