<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[积少成多]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/aimaimaim</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; aimaimaim]]></copyright><item><title><![CDATA[【pytorch】注意力机制-1]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/144946475</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/144946475</guid><author>aimaimaim</author><pubDate>Sun, 05 Jan 2025 16:50:15 +0800</pubDate><description><![CDATA[queries和attention_weights的形状为(查询个数，“键－值”对个数)# values的形状为(查询个数，“键－值”对个数)]]></description><category></category></item><item><title><![CDATA[【pytorch】现代循环神经网络-2]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/144915345</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/144915345</guid><author>aimaimaim</author><pubDate>Fri, 03 Jan 2025 17:56:24 +0800</pubDate><description><![CDATA[对于任意时间步t，给定一个小批量的输入数据 Xt ∈ Rn×d （样本数n，每个示例中的输入数d），并且令隐藏层激活函数为ϕ。在双向架构中，我们设该时间步的前向和反向隐状态分别为 →Ht ∈ Rn×h和←Ht ∈ Rn×h，其中h是隐藏单元的数目。**例如，填充缺失的单词、词元注释（例如，用于命名实体识别）以及作为序列处理流水线中的一个步骤对序列进行编码（例如，用于机器翻译）。其主要原因是网络的前向传播需要在双向层中进行前向和后向递归，并且网络的反向传播还依赖于前向传播的结果。]]></description><category></category></item><item><title><![CDATA[【pytorch】现代循环神经网络-1]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/144879511</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/144879511</guid><author>aimaimaim</author><pubDate>Thu, 02 Jan 2025 19:21:40 +0800</pubDate><description><![CDATA[此函数返回一个形状为（批量大小，隐藏单元个数）的张量，张量的值全部为零。]]></description><category></category></item><item><title><![CDATA[【pytorch】循环神经网络]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/144833464</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/144833464</guid><author>aimaimaim</author><pubDate>Mon, 30 Dec 2024 20:39:22 +0800</pubDate><description><![CDATA[如果说卷积神经网络可以有效地处理空间信息，那么循环神经网络则可以更好地处理序列信息。循环神经网络通过引入状态变量存储过去的信息和当前的输入，从而可以确定当前的输出。]]></description><category></category></item><item><title><![CDATA[【pytorch】现代卷积神经网络]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/144804577</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/144804577</guid><author>aimaimaim</author><pubDate>Sun, 29 Dec 2024 20:07:53 +0800</pubDate><description><![CDATA[这些路径的通道数分配和第三模块中的类似，首先是含3×3卷积层的第二条路径输出最多通道，其次是仅含1×1卷积层的第一条路径，之后是含5×5卷积层的第三条路径和含3×3最大汇聚层的第四条路径。中间的两条路径在输入上执行1 × 1卷积，以减少通道数，从而降低模型的复杂性。需要注意的是，第五模块的后面紧跟输出层，该模块同NiN一样使用全局平均汇聚层，将每个通道的高和宽变成1。ResNet的前两层跟之前介绍的GoogLeNet中的一样： 在输出通道数为64、步幅为2的7×7卷积层后，接步幅为2的3×3的最大汇聚层。]]></description><category></category></item><item><title><![CDATA[【pytorch】卷积神经网络]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/144793296</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/144793296</guid><author>aimaimaim</author><pubDate>Sat, 28 Dec 2024 20:03:23 +0800</pubDate><description><![CDATA[为了获得多个通道的输出，我们可以为每个输出通道创建一个形状为ci × kh × kw的卷积核张量，这样卷积核的形状是co × ci × kh × kw。当卷积窗口滑动到新一个位置时，包含在该窗口中的部分张量与卷积核张量进行按元素相乘，得到的张量再求和得到一个单一的标量值，由此我们得出了这一位置的输出张量值。与卷积层类似，汇聚层运算符由一个固定形状的窗口组成，该窗口根据其步幅大小在输入的所有区域上滑动，为固定形状窗口（有时称为汇聚窗口）遍历的每个位置计算一个输出。在应用多层卷积时，我们常常丢失边缘像素。]]></description><category></category></item><item><title><![CDATA[【pytorch】深度学习计算]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/144647546</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/144647546</guid><author>aimaimaim</author><pubDate>Sun, 22 Dec 2024 20:42:05 +0800</pubDate><description><![CDATA[将输入数据作为其前向传播函数的参数。通过前向传播函数来生成输出。计算其输出关于输入的梯度，可通过其反向传播函数进行访问。通常这是自动发生的。存储和访问前向传播计算所需的参数。根据需要初始化模型参数。# 用模型参数声明层。这里，我们声明两个全连接的层# 调用MLP的父类Module的构造函数来执行必要的初始化。# 这样，在类实例化时也可以指定其他函数参数，例如模型参数params（稍后将介绍）self.hidden = nn.Linear(20, 256) # 隐藏层。]]></description><category></category></item><item><title><![CDATA[【pytorch】多层感知机]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/144617127</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/144617127</guid><author>aimaimaim</author><pubDate>Sat, 21 Dec 2024 20:34:47 +0800</pubDate><description><![CDATA[将许多全连接层堆叠在一起。每一层都输出到上面的层，直到生成最后的输出。我们可以把前L−1层看作表示，把最后一层看作线性预测器。这种架构通常称为多层感知机通常缩写为MLP。]]></description><category></category></item><item><title><![CDATA[【pytorch】softmax回归]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/144434942</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/144434942</guid><author>aimaimaim</author><pubDate>Thu, 12 Dec 2024 20:55:07 +0800</pubDate><description><![CDATA["""在动画中绘制数据"""# 增量地绘制多条线# 使用lambda函数捕获参数# 向图表中添加多个数据点y = [y]n = len(y)]]></description><category></category></item><item><title><![CDATA[【pytorch】线性回归]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/144409562</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/144409562</guid><author>aimaimaim</author><pubDate>Thu, 12 Dec 2024 19:38:51 +0800</pubDate><description><![CDATA[第一个指定输入特征形状，即2，第二个指定输出特征形状为1计算均方误差使用的是MSELoss类，也称为平方𝐿2范数]。默认情况下，它返回所有样本损失的平均值PyTorch在optim模块中实现了该算法的许多变种。当我们(实例化一个SGD实例)时，我们要指定优化的参数 （可通过net.parameters()我们的模型中获得）以及优化算法所需的超参数字典。]]></description><category></category></item><item><title><![CDATA[如何设置使PPT的画的图片导出变清晰]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/143356927</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/143356927</guid><author>aimaimaim</author><pubDate>Wed, 30 Oct 2024 10:14:07 +0800</pubDate><description><![CDATA[在这里插入图片描述](https://i-blog.csdnimg.cn/direct/2243859b453249dcb8cb616b96646149.png。第四步：另存PPT为图片：文件-另存为-保存类型-Png-保存。修改宽度和高度，比图片的宽高均大0.2cm刚刚好。首先看想要保存的图的尺寸：点击图形-格式-长宽。新建一个ppt-设计-幻灯片大小-自定义大小。选择导出当前的PPT，就可以得到清晰的图片了。按照图中设置：高级-]]></description><category></category></item><item><title><![CDATA[【深度生成模型】Diffusion model-公式推导]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/140657363</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/140657363</guid><author>aimaimaim</author><pubDate>Fri, 23 Aug 2024 16:43:58 +0800</pubDate><description><![CDATA[（前提：数学原理很多）]]></description><category></category></item><item><title><![CDATA[【深度生成模型】Diffusion Model 扩散模型]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/140613449</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/140613449</guid><author>aimaimaim</author><pubDate>Tue, 23 Jul 2024 20:19:38 +0800</pubDate><description><![CDATA[可以看出实际上真正做的时候，噪声并不是一点一点加进去的，而是一次性的加进去了，去噪声的时候也是直接去除。与后面的数学原理相关。简单来说，两个过程，前向过程，向原图形中加噪声变为纯噪声图像；其中，去噪内部的工作流程：内部首先预测图片中的噪音，在输入图像上减去产生的噪音，达到去噪的效果。流程框架，基本包含三个元件：文字编码器，生成模型，解码，三个通常是分开训练再组合。，所以去噪模型的输出要和这个接近，也就是输出这个，在这个式子中，需要预测的只有。扩散模型，从一堆噪音里去除不需要的噪音，得到需要的图像。]]></description><category></category></item><item><title><![CDATA[常用的基于深度学习的生成模型实现图像数据增强方法分类]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/140271919</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/140271919</guid><author>aimaimaim</author><pubDate>Mon, 08 Jul 2024 16:17:58 +0800</pubDate><description><![CDATA[常用的、基于深度学习的生成模型、实现图像数据增强方法分类


]]></description><category></category></item><item><title><![CDATA[可解释学习资料大全]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/137685937</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/137685937</guid><author>aimaimaim</author><pubDate>Fri, 12 Apr 2024 16:31:04 +0800</pubDate><description><![CDATA[资料汇总]]></description><category></category></item><item><title><![CDATA[新建虚拟环境并与Jupyter内核连接]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/135255891</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/135255891</guid><author>aimaimaim</author><pubDate>Wed, 27 Dec 2023 21:20:12 +0800</pubDate><description><![CDATA[第一步：在cmd里新建虚拟环境，shap38是新建的虚拟环境的名字  ，python=3.x。第4步，打开jupyter，就可以看见内核啦。]]></description><category></category></item><item><title><![CDATA[【机器学习13】生成对抗网络]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/134490100</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/134490100</guid><author>aimaimaim</author><pubDate>Sun, 19 Nov 2023 21:13:22 +0800</pubDate><description><![CDATA[从推断的角度看， 联合概率q(x,z)=q(x)q(z|x)， 其中q(x)为真实数据集上的经验数据分布， 可认为已知， 条件概率q(z|x)则要通过推断网络来表达；从生成的角度看， p(x,z)=p(z)p(x|z)， 其中p(z)是事先给定的， 如z～N(0,I)， 条件概率p(x|z)则通过生成网络来表达。当二者趋于一致时， 可以确定对应的边缘概率都相等， q(x)=p(x)， q(z)=p(z)， 对应的条件概率也都相等q(z|x)=p(z|x), q(x|z)=p(x|z)。]]></description><category></category></item><item><title><![CDATA[【机器学习12】集成学习]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/134487956</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/134487956</guid><author>aimaimaim</author><pubDate>Sun, 19 Nov 2023 14:03:28 +0800</pubDate><description><![CDATA[从所有的树结构中寻找最优的树结构是一个NP-hard问题， 因此在实际中往往采用贪心法来构建出一个次优的树结构， 基本思想是从根节点开始， 每次对一个叶子节点进行分裂， 针对每一种可能的分裂， 根据特定的准则选取最优的分裂。不同的决策树算法采用不同的准则， 如IC3算法采用信息增益， C4.5算法为了克服信息增益中容易偏向取值较多的特征而采用信息增益比， CART算法使用基尼指数和平方误差， XGBoost也有特定的准则来选取最优分裂。每一层在训练的时候， 对前一层基分类器分错的样本， 给予更高的权重。]]></description><category></category></item><item><title><![CDATA[【机器学习11】强化学习]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/134463210</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/134463210</guid><author>aimaimaim</author><pubDate>Fri, 17 Nov 2023 20:15:33 +0800</pubDate><description><![CDATA[包括深度Q-learning在内的大多数强化学习算法， 都没有收敛性的保证， 而策略梯度（Policy Gradient） 则没有这些问题， 它可以无差别地处理连续和离散状态空间，同时保证至少收敛到一个局部最优解。） ： 在每个时间点t， 机器人会发出一个动作at， 收到环境给出的收益rt， 同时环境进入到一个新的状态st。设τ为某一次0到T时间所有状态及行动的集合（称作一条轨迹） ， 则R(θ)=E(r(τ))， 其中函数r计算了轨迹τ的得分。奖励： 机器人可能收到的奖励， 一般是一个实数， 记作r。]]></description><category></category></item><item><title><![CDATA[【机器学习10】循环神经网络]]></title><link>https://blog.youkuaiyun.com/aimaimaim/article/details/134446763</link><guid>https://blog.youkuaiyun.com/aimaimaim/article/details/134446763</guid><author>aimaimaim</author><pubDate>Fri, 17 Nov 2023 14:46:38 +0800</pubDate><description><![CDATA[与传统的循环神经网络不同的是， 从上一个记忆单元的状态ct−1到当前的状态ct的转移不一定完全取决于激活函数计算得到的状态， 还由输入门和遗忘门来共同控制。由于预测的误差是沿着神经网络的每一层反向传播的， 因此当雅克比矩阵的最大特征值大于1时， 随着离输出越来越远， 每层的梯度大小会呈指数增长， 导致梯度爆炸；该方法会保存b当前的较佳选择， 然后解码时每一步根据保存的选择进行下一步扩展和排序， 接着选择前b个进行保存， 循环迭代， 直到结束时选择最佳的一个作为解码的结果。]]></description><category></category></item></channel></rss>