Small__明的博客

本文系统梳理了数学与深度学习中张量（Tensor）的核心概念。数学中的张量是多重线性映射，强调坐标变换不变性，而深度学习中的Tensor是计算机实现的多维数组，支持自动微分和GPU加速。文章详细解析了标量（0阶）、向量（1阶）、矩阵（2阶）及高阶张量的特性与应用场景，并通过对比表指出两者的关键差异：数学张量是抽象实体，深度学习Tensor则注重计算效率。最后介绍了Tensor的创建、转换、运算等实操方法，为理解神经网络的数据结构提供了清晰框架。

对比维度.detach()是否禁用梯度否是是（对特定张量）是否改变层行为是（Dropout/BatchNorm）否否是否共享数据否否是显存优化效果无直接影响显著优化（禁用计算图存储）局部优化（减少特定张量的显存占用）是否需要组合使用通常与一起使用通常与一起使用可单独使用，或与结合方法核心作用确保模型在评估阶段行为正确（如 Dropout、BatchNorm）。全局禁用梯度计算，减少显存和计算资源消耗。.detach()局部隔离梯度计算，保留数据但不参与反向传播。关键原则训练阶段。

torch.gather()与tensor.scatter_()详解与区别。

pytorch中拼接函数torch.stack()与torch.cat()

Unet原理详解文章目录Unet原理详解Unet结构损失函数代码实现用途、背景、优缺点Unet结构左边是什么?右边是什么？每一步为什么要这样？损失函数各个参数代表什么含义代码实现代码的每一步的含义用途、背景、优缺点...

深度学习之卷积神经网络文章目录深度学习之卷积神经网络卷积神经网络模型结构图一、卷积层卷积核映射到卷积层的过程：局部连接和权值共享二、池化层三、Softmax层四、超参padding:补充边界，在边界补一圈0或1.Stride 步幅卷积神经网络模型结构图输入层（Input layer)卷积层（convolution layer)池化层（pooling layer)输出层（全连接层+Softmax layer)一、卷积层1、提取特征。压缩提纯。2、卷积层级之间的神经元是局部连接和权值共享

深度学习笔记一基本术语特征向量、标签、模型、算法训练集&测试集深度学习过程监督学习、非监督学习、强化学习公式中x,y,d,m的意义特征向量、标签、模型、算法特征向量：用于解决问题的一系列属性标签：我们想要预测的目标模型：用于预测的规则算法：生成模型的程序举例我们去卖西瓜，为了挑一个好的西瓜，我们需要看看西瓜的颜色，瓜秧，形状，还要拍一拍听听西瓜的声音等。这些西瓜的属性就是特征向量。好的西瓜即我们的目标也就是标签。好的西瓜的响声咚咚响，形状比较圆，瓜皮颜色深绿等，我们的这些日常经验就是

深度学习之模型评估Evaluation Metric文章目录深度学习之模型评估Evaluation Metric精度Accuracy混淆矩阵总结精度Accuracy精度是指测试正确的与全部测试样例的比值。Accuracy=NumberofcorrectpredictionsTotalnumberofpredictionsmadeAccuracy = \frac{Number of correct predictions}{Total number of predictions made}Accur

深度学习之激活函数文章目录深度学习之激活函数线性模型的缺点映射到新的空间感知机模型激活函数总结线性模型的缺点线性模型只能用一条线进行分类，很多情况下分类效果不明显。例如疑惑问题。见下图。无法用一条直线将图中的蓝色点和黄色点分开。那么我们该如何解决呢？映射到新的空间对于上述问题，我们可不可以把图中的四个点映射到一个新的空间中，使其在新的空间中可以用线性模型去解决呢？见下图：我们将(0,0)-> (0,0),(0,1) -> (1,0),(1,0) -> (1,0),(1,1

深度学习——回归问题提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加例如：第一章 Python 机器学习入门之pandas的使用提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录深度学习——回归问题前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码如下（示例）：import numpy