深度学习中的数学（二）——线性代数

最新推荐文章于 2024-03-25 10:21:29 发布
最新推荐文章于 2024-03-25 10:21:29 发布
阅读量595 收藏 2
点赞数
分类专栏： 深度学习 AI 文章标签： 机器学习 深度学习 计算机视觉 人工智能 线性代数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/wa1tzy/article/details/107068099
版权
本文深入探讨了线性代数在深度学习中的应用，包括线性方程组、过拟合的理解、线性可分与不可分的概念，以及张量、范数和归一化的角色。同时，讲解了內积、投影、余弦相似度和线性变换等核心概念，对特征方程、奇异值分解和矩阵运算进行了详细阐述。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

一、理解线性

1.1 线性方程组

在这里插入图片描述
AX=B
在这里插入图片描述

1.2线性代数的角度理解过拟合

过拟合：参数量过多，数据过少（这里数据等价了）
解决：减伤参数量，增加数据量
在这里插入图片描述
正常情况：
在这里插入图片描述
欠拟合：参数量过少，数据过多（这里不等价）
解决：增加参数量

了解本专栏 订阅专栏 解锁全文 超级会员免费看
机器学习(part2)--线性方程组的列表达
小山羊的学习日志
07-18 261
学习笔记，仅供参考，有错必纠 今天依然是膜拜阿Z老师的一天！ 机器学习 线性方程组的列表达 线性方程组 线性方程组 我们将来遇到的几乎所有问题都会是非线性的，但是现在，我们并没有很好的办法去解决非线性问题，所以，我们可以通过线性来近似求解，从这个角度来说线性还是非常重要的。 对于下面这个二维方程组： {2x−y=0−x+2y=3 \begin{cases} 2x-y=0 \\ -x+2y=3 \end{cases} {2x−y=0−x+2y=3​ 此方程组中未知数的最高次项为1，每个方程是各
1.3 深度学习——线性代数&标量&向量&矩阵
最新发布
weixin_43199439的博客
10-29 1110
标量是一个单独的数字，比如3、5、或者52。你可以把标量想象成一个小盒子，里面只放着一个数字。标量就是一个单独的数字，我们可以用它们做很多数学运算。学习线性代数和标量对理解很多数学和科学模型很重要，希望你们能觉得有趣！向量可以想成一个装了多个数字的“数字列表”。比如，假设我们有一组数字：[0, 1, 2, 3]。这组数字就组成了一个向量。向量的每个数字叫做元素。在向量[0, 1, 2, 3]中，数字0、1、2、3都是这个向量的元素。向量是一个数字列表，它的每个数字叫做元素。
深度学习(二)——线性回归的求解
weixin_43633568的博客
02-24 489
线性回归对线性方程y = w * x + b中w，b求解 知识点： 损失函数：loss = (y - w * x - b )**2 怎么迭代：loss对要求的值求偏导： w(新) = w(旧) - ∂loss/∂w b(新) = b(旧) - ∂loss/∂b 为什么是减号呢：设想当前点在最优解左边(凹函数)，斜率就是负值，怎么向右移动呢？负负得正，减去这个负值就好啦！ 随着点越来越靠近最优...
考研必备数学公式大全（数学二）（线性代数篇）
iioSnail的博客
08-26 8233
由于公式太多，汇总成一篇容易打不开，所以分三篇。整篇链接：https://blog.youkuaiyun.com/zhaohongfei_358/article/details/106039576 章节 链接 基础回顾篇 https://blog.youkuaiyun.com/zhaohongfei_358/article/details/119929920 高等数学篇 https://blog.youkuaiyun.com/zhaohongfei_358/article/details/119929988 线性代.
【考研数学二】线性代数重点笔记
强哥的微博
03-25 9687
矩阵等价：同型矩阵，秩相等。向量组等价：可以相互表示即（几何：可以决定同一个空间）：R(A,B) = R(A) = R(B)向量组等价是同一个空间，而不是相同的秩，相同的秩，只能说明相同的维度，但不一定在同一个空间。线性相关：可以有线性表示就是线性相关，不可以线性表示就是线性无关，即有无混子。齐次方程组有非零解，说明解向量中有混子，这个混子可以被其他向量表示，也线性相关。行变不改变列向量组内的线性表示关系一个矩阵的乘以一个向量 == 一个数乘以一个向量4、相似对角化的性质4.1 例题1。
深度学习数学基础 -矩阵和线性代数 线性方程组
leva的博客
08-28 242
深度学习代码实战——线性代数
12-22
首先，我们来看线性代数中的基本元素：标量、向量、矩阵和张量。标量是单一的数值，例如`s = 5`；向量是一组有序的数值，如`V = [1, 2]`；矩阵是由多个数值组成的矩形阵列，如`m = [[1, 2], [2, 4]]`；而张量是多维...
《动手学习深度学习》预备知识——线性代数
By_Liu的博客
07-07 369
线性代数
动手学深度学习笔记3——线性代数
weixin_66472769的博客
04-04 627
《动手学深度学习》笔记 第二章 预备知识 2.3线性代数
机器学习深度学习数学基础—线性代数篇
蜗牛壳上的小潘同志的博客
05-30 461
机器学习深度学习数学基础—线性代数篇线性代数1.矩阵的基本概念以及意义2.矩阵的基本运算3.矩阵（方阵）的迹4.矩阵的转置5.对称矩阵（方阵）6.行列式的引入7.行列式的计算与重要性质8.行列式按行（列）展开，代数余子式9.克莱姆法则10.矩阵的逆11.矩阵逆的性质 线性代数 1.矩阵的基本概念以及意义 1.1 什么是矩阵 !](https://img-blog.csdnimg.cn/20200527182122755.png?x-oss-process=image/watermark,type_Z
深度学习的日记一：线性代数
qq_28468749的博客
10-30 893
读书，记笔记，总结，回忆 一：标量，向量，矩阵和张量         1：标量  一个标量就是一个单独的数    斜体  小写   类似于集合上的元素         2：向量：一个向量是一列有序排列的数  通过索引确定每一个数   粗体小写  下标是索引                           把向量看作空间中的点，每个元素都是不同坐标轴上的坐标（We can think
线性代数 --- 置换矩阵 (Permutation matrix）
松下J27录放机
09-26 2万+
置换矩阵 - permutation matrix
深度学习的数学基础之线性代数（一）------ 张量和范数
迦小叶的博客
08-06 2624
-------------------------------------------------山水有相逢-----------------------------------------------------
MATLAB矩阵运算大杂烩
yyy_yyy_yyy_ll的博客
09-17 764
A = [1 2; 3 4]; B = [5 6; 7 8]; 矩阵运算 运算描述 矩阵加减 矩阵对应值加减；A+B=[6,8;10,12]；A-B=[-4,-4;-4,-4] 矩阵乘（A*B） 通常以一下的矩阵乘法，要求A的列数等于B的行数 矩阵点乘（A.*B） 表示同型矩阵A和B的对应元素相乘 矩阵左除（A\B） x = A\b是方程组A*x = b的解 矩阵右除 （A/B） x = b/A是方程组x*A = b的解 矩阵点除（A./B） x = A./B表示同型矩阵
谱范数的理解与论述
热门推荐
MathThinker的博客
09-25 3万+
对于任意两点间来说，直线距离最短。而计算两点间距离的公式就是源于众所周知的勾股定理的基础上推导而来的。事实上，不仅对于人们所熟知的二维空间和三维空间如此，对于高维空间亦是如此。在数学上，一般将高维空间的点表示为一个多维向量，而任意一个点到原点的直线距离则称为该点的二范数。对于诸多的计算机或数学相关的应用领域而言，向量的二范数往往都是最为普遍而且重要的概念之一。简而言之，它对于研究者来...
机器学习笔记（含图像处理）
weixin_44718538的博客
08-27 2742
一、回归 1. 梯度下降 梯度下降是通过不断更新各个变量的参数得到代价函数的全局最小值，更新方式为：原来的参数-步长×代价函数对参数的偏导。 注意：迭代次数和步长需要由自己设定。 越接近最小值时，代价函数对参数的偏导（即斜率）就越小，则达到最小值就越慢。 代码： def gradientDescent(X, y, theta, alpha, iters): temp = np.matrix(np.zeros(theta.shape)) parameters = int(theta
深度学习入门与实战（三）-线性回归
gonghaiyu的博客
11-25 956
本节主要介绍线性回归相关的知识 线性回归的定义 线性回归（linear regression）试图学得一个线性模型以尽可能准确地预测实值输出标记。回归与分类都属于有监督学习，分类预测的是一个类别，而回归预测的是一个数值，例如房价、天气的温度、股票的走势。 假设我们有训练数据 D： 其中 xi=(xi,1,xi,2,…,xi,n)。 我们希望找到一个线性关系 f(x)，使 f(x)尽可能地模拟出数据 x 与 y 的关系，数学上的表达是f(xi)≈yi，也就是希望 f(x) 接受一个输入 x，它的输出能尽.
线性代数二（基本概念）
鲨鱼儿的博客
12-06 6160
① https://blog.youkuaiyun.com/qq_16555103/article/details/88378009 ----------几个重要的矩阵点积 八、矩阵的秩： 1、矩阵子式的定义与子式个数的计算： 概念：矩阵中最高非零子式的阶数。 2、矩阵秩的定义： 3、矩阵秩的计算方法： 4、矩阵秩...
机器学习和深度学习之数学基础-线性代数 第一节 向量及线性映射
yong_bai的博客
04-18 7906
本文为原创文章，欢迎转载，但请务必注明出处。 线性代数是机器学习和深度学习算法的数学基础之一，这个系列的文章主要描述在AI算法中可能涉及的线性代数相关的基本概念和运算。本文主要参考Garrett Thomas(2018)，Marc Peter Deisenroth(2018)，Strang(2003)，José Miguel Figueroa-O’Farrill， Isaiah Lank...
多重线性代数与张量基础——深度学习中的关键概念
"这篇文档是关于多重线性代数中的张量基础概念的总结，作者为张鸿燕，主要探讨了张量的数学定义、基变换、物理学定义以及在计算机视觉、深度学习等多个领域的应用。内容包括张量的代数运算、对称性和在物理与工程...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

wa1tzy

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值