- 博客(9)
- 收藏
- 关注
RSS订阅原创 人工智能入门-深度学习 深度学习优化器与损失函-PyTorch组件快速上手与实战技巧
本文介绍了深度学习中的常用函数(Function)、优化器(Optimizer)和损失函数(Criterion)。函数部分包含dropout、softmax等激活函数和正则化方法；优化器部分详细说明了SGD、Adam、RMSprop等9种优化器的参数配置和使用场景；损失函数部分涵盖了CrossEntropyLoss、MSELoss等7种常用损失函数的特点和参数设置。文章还提供了优化器选择建议，如通用场景推荐Adam/AdamW，稀疏数据建议Adagrad等，为深度学习模型训练提供了实用参考。
2025-09-03 14:29:15
891
原创 人工智能入门-深度学习 Pytorch-nn里面的组件快速应用介绍
PyTorch的nn模块提供了构建深度学习模型的核心组件，包括各类网络层、激活函数、归一化层和损失函数等。常用组件如nn.Linear（全连接层）、nn.Conv2d（卷积层）、nn.ReLU（激活函数）、nn.BatchNorm2d（批归一化）和nn.Dropout（随机丢弃）等，可用于构建复杂模型。此外，nn.Sequential可组合多个层，nn.CrossEntropyLoss适用于分类任务，而nn.Transformer支持自注意力机制处理序列数据。这些组件通过参数化配置灵活满足不同需求，简化了深
2025-09-01 15:13:31
853
原创 人工智能入门-深度学习权重初始化-从公式到代码实践了解各种权重初始化，从0实现代码
本文介绍了神经网络中的权重初始化方法，重点分析了Xavier初始化的原理及其在深度学习中的应用。Xavier初始化通过控制权重方差来保持信号在网络中的稳定传播，避免梯度消失或爆炸问题。文章详细推导了Xavier初始化的数学原理，提出应根据输入输出神经元数量确定权重分布范围。在实践部分，介绍了数据预处理（缺失值填充、标准化、独热编码）、模型设计、训练优化等关键步骤，并提供了K折交叉验证的实现方法。特别强调了在房价预测等任务中使用对数均方根误差(log-RMSE)作为评估指标的重要性，因其能更好反映相对误差。文
2025-08-20 18:00:00
944
原创 人工智能入门-深度学习前向传播与反向传播理论公式剖析与实战代码案例详解，从公式到代码实战
前向传播（forward propagation或forward pass） 指的是：按顺序（从输入层到输出层）计算和存储神经网络中每层的结果。假设输入样本是 x∈Rd， 并且我们的隐藏层不包括偏置项。zW1x其中W(1)∈Rh×d 是隐藏层的权重参数。hϕz隐藏变量h也是一个中间变量。假设输出层的参数只有权重W(2)∈Rq×h， 我们可以得到输出层变量，它是一个长度为q的向量oW2h假设损失函数为l，样本标签为y，我们可以计算单个数据样本的损失项，Lloy。
2025-08-20 12:00:00
1053
原创 人工智能入门-深度学习-过拟合和欠拟合以及缓解方法-L1,L2正则化，DROP基本原理以及实现步骤-从公式到代码实践深入浅出
文章摘要 本文讨论了机器学习中的过拟合和欠拟合问题，并介绍了两种常见的正则化方法：权重衰减和Dropout。过拟合指模型在训练数据上表现良好但在测试数据上表现差，而欠拟合则是模型无法捕捉数据的基本模式。权重衰减通过L1/L2范数对模型参数进行约束，其中L2正则化（岭回归）能均匀分布权重，L1正则化（套索回归）可实现特征选择。实验表明，适当的L2正则化能有效降低过拟合。Dropout是另一种正则化技术，通过随机丢弃神经元来提高模型的泛化能力，其核心思想是在训练时以概率p关闭部分神经元，并在测试时调整输出值。这
2025-08-19 12:00:00
1009
原创 人工智能入门-深度学习-从感知机到多层感知机-从公式到代码实践，深入激活函数公式代码导数，图解人工智能
摘要 本文介绍了多层感知机（MLP）及其基础组件感知机。感知机是一种二分类线性模型，通过超平面划分数据，但仅适用于线性可分问题。MLP通过引入隐藏层和激活函数（如ReLU、Sigmoid、Tanh）扩展了感知机的能力，能处理非线性数据。文中还提供了PyTorch实现的代码示例，包括模型定义、训练和评估过程。MLP作为神经网络的基础，广泛应用于分类和回归任务。
2025-08-18 12:00:00
1974
原创 人工智能入门-深度学习-深入浅出线性神经网络-从公式理解到代码实践，深入softmax
本文介绍了线性神经网络中的Softmax回归模型。首先阐述了Softmax函数的定义和公式，它能将输入向量转换为概率分布。接着详细推导了Softmax回归的预测过程、交叉熵损失函数及其导数计算，并通过实例演示了计算过程。最后提供了使用PyTorch实现Softmax分类器的代码示例，包括网络结构定义、前向传播过程及应用场景。文章重点突出了Softmax在解决多分类问题中的核心作用及其数学原理。
2025-08-15 14:27:50
1267
原创 人工智能入门-深度学习中最常用的代码及补充的数学知识
这篇文章提供了深度学习训练的可复用代码和数学知识补充。代码部分包括训练和测试函数的实现，以及训练过程的示例循环和可视化方法。数学知识部分重点介绍了计算复杂度的分配（如数据加载5%、前向传播30%、反向传播60%）和凸函数的定义与意义，包括其几何解释和在深度学习中的应用（损失函数、优化算法、正则化）。文章还指出深度学习中许多目标函数实际是非凸的，可能存在多个局部最优解。
2025-08-15 00:00:00
538
原创 人工智能入门-深度学习-基础知识篇
本文介绍了深度学习的基础知识及PyTorch框架中Tensor的基本操作。主要内容包括：深度学习的概念及其在多个领域的应用；Tensor的创建方式（列表转换、随机生成）；形状查看与基本操作（索引、算术运算、矩阵乘法）；聚合操作（求和、均值等）；与其他数据结构的转换（Python列表、NumPy数组）；设备间移动（CPU/GPU）；以及维度操作（sum、cat、transpose、stack等）。这些操作为构建和训练神经网络提供了基础支持，是深度学习实现的重要技术环节。
2025-08-14 17:04:36
999
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人