PGeorge6的博客

LeNet,ResNet,LSTM,BERT,损失函数,目标函数,过拟合,优化使用pytorch实现介绍的知识点在真实数据上体验算法的效果深度学习基础---线性神经网络，多层感知机卷积神经网络---LeNet,AlexNet,VGG,Inception,ResNet循环神经网络---RNN,GRU,LSTM,seq2seq注意力机制---Attention,Transformer优化算法---SGD,Momentum,Adam高性能计算---并行，多GPU，分布式计算机视觉---目标检测，语义分割自然语言处

5.1是否有路通向AGI

将层转化成神经网络。

机器学习 树模型，随机森林 神经网络 上kaggle学习 数据挖掘 结合图，时间序列 计算机视觉 CNN，Transformer架构 pytorch框架 YOLOv8，open pose，deep sort open matlab 多模态，bev 自然语言处理 Transformer Hugging face PEFT langchain AIGC大模型 Transformer，diffusion PEFT，hagguing face 开源项目源码

从前一层到下一层，上一层的输出是下一层的输入。

本阶段将学习神经网络，也叫深度学习算法。以及决策树，这是一些最强大，应用最广泛的机器学习算法。

第一个具有较高误差第二个比较合适第三个太合适了，而且函数图像不正确，所以了，也叫做具有如果稍微变动一下输入，输出可能会有很大变化。所以要寻找一个既没有高偏差又没有高方差的式子。这又是一个过拟合的例子，尽管它在训练中做的非常好，但是这并不能应用在实际的生活中。

9.1梯度下降的实现

成本函数损失函数。

如果用原来的数据的话图形比较扁，有可能会多次反弹，而特征缩放了以后就是圆形就比较好梯度下降了。

例如要评价一套房子，要从多个方面评价例如x1代表大小，x2代表房间数，x3代表层数，x4代表年份。b为基础价格这是通式，用向量表示为叫做矢量，有时候叫做向量写成点积这种叫做多元线性回归，通常用矢量化，可以更快地执行代码。

为了实现线性回归，第一个关键步骤是手心定义代价函数，代价函数将告诉我们模型的运行情况，以便我们可以尝试让它做的更好。

根据已有的数据集，知道输入和输出结果之间的关系。根据这种已知的关系，训练得到一个最优的模型。在监督学习中训练数据既有特征(feature)又有标签(label)，通过训练，让机器可以自己找到特征和标签之间的联系，在面对只有特征没有标签的数据时，可以判断出标签。简单理解：可以把监督学习理解为我们教机器如何做事情。我们不知道数据集中数据、特征之间的关系，而是要根据聚类或一定的模型得到数据之间的关系。在无监督学习中数据只有特征(feature)无标签(label)