李沐深度学习笔记-06矩阵计算

最新推荐文章于 2025-12-06 11:44:57 发布
原创 最新推荐文章于 2025-12-06 11:44:57 发布 · 612 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#矩阵 #深度学习 #线性代数

部署运行你感兴趣的模型镜像

06矩阵计算

标量导数

亚倒数

如果不存在导数的话，将导数拓展到不可微的函数

在这里插入图片描述

梯度

将导数拓展到向量

当y是标量，x是标量，求导为标量

当y是标量，x是向量，求导为向量

当y是向量，x是标量，求导为向量

当y是向量，x是向量，求导为矩阵

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

您可能感兴趣的与本文相关的镜像

Yolo-v8.3

Yolo-v8.3

Yolo

YOLO（You Only Look Once）是一种流行的物体检测和图像分割模型，由华盛顿大学的Joseph Redmon 和Ali Farhadi 开发。 YOLO 于2015 年推出，因其高速和高精度而广受欢迎

李沐《动手学深度学习》笔记4-矩阵计算
qq_36136196的博客
07-06 858
标量求导 导数就是切线斜率，链式求导 亚导数：不可微的函数 注意[ -1，1]取值 梯度 关于梯度的理解参考链接https://www.bilibili.com/video/BV1i54y1B7Tk?from=search&seid=17023495418368110257&spm_id_from=333.788.b_636f6d6d656e74.35 此处采用分子布局符号 把看成z=f(x,y)函数，对每个z值做等高线，梯度就是值变化最大的方向 向量对向量的求导->矩阵
李沐机器学习第三节——矩阵计算（导数）
weixin_43586185的博客
10-26 1963
矩阵求导 函数不可微时怎么办？——（将导数拓展到不可微的函数） 亚导数 梯度——将导数拓展到向量（要搞清“形状”） （y是标量，x是标量，导数也是标量； y是标量，x是向量/y是向量，x是标量，导数是向量； y是向量，x也是向量，导数是一个矩阵。） y是标量，x是向量（梯度指向值变化最大的方向，梯度向量与等高线正交） 函数举例： y是向量，x是标量（梯度指向值变化最大的方向，梯度向量与等高线正交） y是向量，x也是向量，导数是一个矩阵。 ...
【李沐-动手深度学习v2】笔记整理-06矩阵计算
m0_51141265的博客
02-10 230
跟李沐动手深度学习v2-06矩阵计算
李沐动手学深度学习-06矩阵计算
keepdreams的博客
10-03 331
06矩阵计算 矩阵计算中最重要的就是矩阵的导数计算，这对于深度学习或者机器学习的训练与优化都是非常重要的依据 如果dy/dx，如果y是一个标量，而x是一个向量，那么就需要使用y的这个表达式，对x1,x2全部求一次导，然后变成一个向量；相反如果y是一个向量而x是一个标量的话，那么每一个y都需要对指定的x进行求导；如果x，y都是向量，那么就是每一个y都需要对每一个x进行求导。 拓展到矩阵可以看出，如果矩阵和向量进行求导运算，那么结果就会变成一个三维。 如果矩阵和矩阵进行进行求导运算的话那么就会变成以四维的结果。
机器学习笔记（李沐6-11）
Jeffrey_0711的博客
10-30 568
李沐6-11深度学习笔记
李沐深度学习笔记D2-矩阵计算
weixin_41624462的博客
11-06 912
首先我用gpt5查了梯度的含义，梯度在这里可以指代为一个函数或者曲线上升最快的方向，比如一个曲线在上升，利用高中的知识，x轴偏移量非常小的情况下，y轴偏移量除以x轴偏移量应该可以用来当作导数也就是上升的趋势，那么梯度就是正好和上升的趋势的指向的向量成90度角分布的那个向量，也就是可以代表上升最快的那个趋势向量，如果想要延缓上升的趋势，那么我们就可以用梯度向量的正相反的趋势向量去发展这个函数，这就是梯度下降，可以有效的延缓上升的趋势。如上图，如果y是一个标量，u也是一个标量，x是一个向量。
李沐深度学习笔记-05线性代数
qq_41701219的博客
02-12 919
1.线性代数 标量由只有一个元素的张量表示 import torch x=torch.tensor([3.0]) y=torch.tensor([2.0]) x+y,x*y,x/y,x**y #输出(tensor([5.]), tensor([6.]), tensor([1.5000]), tensor([9.])) 可以将向量视为标量值组成的列表 x=torch.arange(4) x #输出tensor([0, 1, 2, 3]) 通过张量的索引来访问任一元素 x[3] #输出tensor(3)
李沐深度学习笔记D1-数据操作
weixin_41624462的博客
11-04 334
将文件或者数据预处理为特征向量，类似数据字段平铺比如：表格中的数据转为特征向量转换为多维数组。
【李沐】深度学习笔记
~yzzheng～的博客
04-06 1162
学习李沐深度学习的笔记内容
个人学习笔记2：动手学深度学习pytorch版-李沐
浪子L的博客
09-01 1766
主要记录学习笔记，学习书目为李沐老师的《动手学习深度学习》 重预备知识开始记录。 开源书籍地址：https://zh-v2.d2l.ai/chapter_preface/index.htmll 李沐老师B站视频：https://space.bilibili.com/1567748478/channel/seriesdetail?sid=358497
【李沐 动手学深度学习】视频课程笔记与重点总结 01-18，从线性回归到pytorch代码
qq_52589927的博客
08-15 1586
本文介绍了：线性回归、多层感知机、pytorch代码等等。其中包含有梯度下降、激活函数、dropout、正则化、pytorch模型构建与参数管理的部分。
A.每日一题——2435. 矩阵中和能被 K 整除的路径
要努力去发光，而不是被照亮~
12-02 367
A.每日一题——2435. 矩阵中和能被 K 整除的路径解析
word中latex插入矩阵的语法问题
Carlos5en的博客
12-02 321
word中latex插入矩阵的语法问题
洛谷 U311289 矩阵距离
最新发布
2401_87918203的博客
12-06 170
一个 N 行 M 列的矩阵 B，相邻两个整数之间用一个空格隔开。接下来一个 N 行 M 列的 01 矩阵，数字之间没有空格。第一行两个整数 N,M。
CNN计算|原始矩阵扩充后的多维度卷积核计算效果
专注python+工程实践的热心婶子
12-02 382
本文探讨了在多通道卷积计算中结合原始矩阵扩充的方法。首先介绍了3通道5×5输入矩阵和3×3卷积核的基本计算过程，通过三层循环实现多通道卷积运算。然后演示了如何使用torch.zeros对原始矩阵进行外圈0值扩充，保持输入输出尺寸一致。最后将扩充后的矩阵应用于相同的卷积计算流程，验证了扩充方法的有效性。文章提供了完整的Python实现代码，展示了从基本卷积到带扩充卷积的计算过程，为理解卷积神经网络中的padding操作提供了实践参考。
2025年AI内容矩阵工具，谁主沉浮？
AIyingxiaozix的博客
12-05 787
当时间来到2025年，对于每一位品牌市场负责人而言，焦虑感从未如此具体而沉重。我们正身处一个“躺也躺不平，卷也卷不过”的营销战场。一方面，流量被切割成无数碎片，用户的注意力成为最稀缺的资源；另一方面，内容需求呈几何级数暴增，据不完全统计，品牌的日均内容需求量较三年前增长了超过300%，而内部团队的产能早已不堪重负。更深层次的危机在于，当技术、供应链乃至产品设计都趋于高度同质化，品牌独有的声音正在被淹没。
矩阵扩散问题
y245166349的专栏
12-05 613
存在一个m×n的二维数组，其成员取值范围为0或1。 其中值为1的成员具备扩散性，每经过1S，将上下左右值为0的成员同化为1。 二维数组的成员初始值都为0，将第[i,j]和[k,l]两个个位置上元素修改成1后，求矩阵的所有元素变为1需要多长时间。
技术实战：Crocs如何构建AI驱动的智能内容矩阵，实现内容播放量提升470%？
Tezign_space的博客
12-05 882
摘要：Crocs通过构建智能内容矩阵技术平台，实现全球化内容运营的数字化转型。该系统采用多智能体用户模拟、AI策略生成和自动化内容生产三大模块，结合数据闭环优化机制，显著提升运营效率：内容生产周期缩短80%，播放量提升470%，决策响应时间减少96%。案例证明，将AI技术与工程架构结合，采用人机协同模式，可有效解决规模化内容生产与品牌一致性问题，为AI工程化落地提供示范。未来随着多模态大模型发展，此类系统有望成为企业数字营销的核心基础设施。
W_q,W_k,W_v矩阵是怎么确定的？
Goals1989的博客
12-03 927
摘要：Transformer模型中的W_q、W_k、W_v矩阵是注意力机制的核心可学习参数，通过数据驱动的反向传播优化确定。其本质作用是将输入映射到查询、键、值空间进行特征提取。确定流程包括随机初始化（如Xavier）、训练优化（前向传播计算损失，反向传播更新参数）和最终收敛。这些参数受数据质量、模型结构（如多头注意力）、训练超参数和任务目标影响。人工无法设定这些参数因其需要捕捉复杂的语义特征，而端到端学习能自动发现深层规律并实现泛化。最终确定的参数矩阵编码了输入数据的语义映射关系。
李沐深度学习-循环卷积网络笔记
03-27
### 关于李沐深度学习课程中循环卷积网络部分的学习笔记 在李沐的《动手学深度学习》教材及其配套资源中，虽然主要关注的是基础概念、数据操作以及经典的卷积神经网络（CNN），但对于更复杂的结构如循环卷积网络（Recurrent Convolutional Networks, RCNs）也有一定的涉及[^1]。然而，在具体章节安排上，RCN的内容并未单独成篇，而是作为高级主题的一部分被提及。 #### 循环卷积网络简介 循环卷积网络是一种结合了卷积神经网络（CNN）的空间特征提取能力和循环神经网络（RNN）的时间序列建模能力的方法。这种模型特别适用于处理具有时空依赖性的任务，比如视频分类或动作识别。通过引入时间维度上的记忆机制，RCN能够更好地捕捉动态变化的信息[^4]。 #### 学习路径建议 对于希望深入理解循环卷积网络的学生来说，可以从以下几个方面入手： 1. **基础知识巩固**: 首先复习卷积神经网络的基础理论，包括但不限于卷积层的工作原理、池化操作的作用等。这部分内容可以通过阅读李沐老师的讲义或者观看其相关视频完成[^3]。 2. **时间序列分析入门**: 接着了解基本的RNN变体，例如LSTM(Long Short-Term Memory) 和 GRU(Gated Recurrent Unit)，这些单元如何解决梯度消失等问题是非常重要的知识点。 3. **融合实践探索**: 当具备上述两项技能之后，则可尝试将两者结合起来应用到实际场景当中去。这里推荐查阅一些最新的科研论文或是开源项目案例来进行模仿练习[^2]。 以下是简单的代码片段展示如何构建一个基础版本的RCN模型： ```python import torch.nn as nn class SimpleRCN(nn.Module): def __init__(self, input_channels, num_classes): super(SimpleRCN, self).__init__() # Define a CNN part self.cnn = nn.Sequential( nn.Conv2d(input_channels, 64, kernel_size=3), nn.ReLU(), nn.MaxPool2d(kernel_size=2)) # Flatten the output of CNN to feed into RNN self.flatten = nn.Flatten() # Define an LSTM layer after flattening spatial features self.lstm = nn.LSTM(64 * 7 * 7, hidden_size=128, batch_first=True) # Final fully connected layer for classification task self.fc = nn.Linear(128, num_classes) def forward(self, x): cnn_outs = [] T = x.size(1) # Time steps for t in range(T): out_cnn = self.cnn(x[:,t,:,:]) flattened = self.flatten(out_cnn) cnn_outs.append(flattened.unsqueeze(dim=1)) lstm_input = torch.cat(cnn_outs,dim=1) _, (hn,cn)= self.lstm(lstm_input) final_output = hn[-1] return self.fc(final_output) ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值