ma_ant的博客

卷积神经网络是深度学习在计算机视觉领域的突破性成果，专门用于处理图像、视频、语音等数据的神经网络在计算机视觉领域, 往往我们输入的图像都很大，使用全连接网络的话，计算的代价较高。另外图像也很难保留原有的特征，导致图像处理的准确率不高。卷积神经网络（Convolutional Neural Network）是含有卷积层的神经网络。卷积层的作用就是用来自动学习、提取图像的特征。卷积层、池化层和全连接层构成：（1）卷积层负责提取图像中的局部特征（2）池化层用来大幅降低参数量级(降维)

循环神经网络（）是一种专门处理序列数据的神经网络。与传统的前馈神经网络不同，RNN具有循环结构，能够处理和记住前面时间步的信息，使其特别适用于时间序列数据或有时序依赖的任务。我们要明确什么是序列数据，时间序列数据是指在不同时间点上收集到的数据，这类数据反映了某一事物、现象等随时间的变化状态或程度。这是时间序列数据的定义，当然这里也可以不是时间，比如文字序列，但总归序列数据有一个特点——后面的数据跟前面的数据有关系。

神经网络模型是深度学习的计算模型, 仿生生物学神经元构造功能: 创建自定义模型的时候自动调用操作：1.1 调用父类的__init__方法1.2 初始化隐藏层和输出层示例: self.linear1 = nn.Linear(3,3)1.3 初始化参数示例: nn.init.kaiming_normal_(self.linear1.weight)

tensor[[0,1], [2,4]]->0轴第1个1轴第3个值, 0轴第2个1轴第5个值。③torch.IntTensor()/FloatTensor()...：Tensor直接指定类型创建。add_()/sub_()/mul_()/div_()/neg_()：修改原数据。②torch.Tensor(data=, size=())：既能指定数据,又能指定形状。③ log()/log2()/log10()/log1p()：对数。规则: (n, m) * (m, p) =(n, p)

深度学习是机器学习算法的分支，人工神经网络为结果, 实现自动提取数据特征的算法。电影/音乐/文章/推荐。ANN 人工神经网络。

为了计算这些梯度，PyTorch内置了名为 torch.autograd 的微分模块。自动微分（Automatic Differentiation，AD）是一种利用计算机程序自动计算函数导数的技术，它是机器学习和优化算法中的核心工具（如神经网络的梯度下降）注： 自动微分的张量不能转换成numpy数组, 通过.detach()张量剥离成不自动微分, 可以转换。① 梯度下降法公式: w = w - r*grad (r是学习率, grad是梯度值)② w和b一定是可自动微分的张量, 类型是float类型。