机器学习需要的一些线性代数的知识

本文档详细介绍了机器学习中基础的矩阵和向量概念,包括它们的表示、加法、标量乘法以及矩阵乘法的特例和一般形式。讨论了单位矩阵的性质和矩阵乘法的结合律,还提到了矩阵的逆运算和转置运算。适合初学者入门。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >


该笔记是我观看了吴恩达老师机器学习系列课程3-1至3-6的课程所总结的笔记。我也是刚刚接触机器学习,markdown等,文章中有诸多不成熟的地方,请大家不吝指教。

Matrix&Vector 矩阵和向量

矩阵一般用大写字母表示
A = [ 1 2 3 4 5 6 7 8 9 ] A= \left[ \begin{matrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ 7 & 8 & 9 \end{matrix} \right] A=147258369
下标分别表示行、列,用来检索特定的元素
A 22 = 5 A_{22}=5 A22=5, A 31 = 7 A_{31}=7 A31=7
矩阵的维数:矩阵的行数 × \times ×矩阵的列数
向量用小写字母表示,是一列多行的矩阵,一般下标从1开始
y = [ 1 2 3 4 ] y=\left[\begin{matrix} 1 \\ 2 \\ 3 \\ 4 \end{matrix} \right] y=1234
y 1 = 1 y_{1}=1 y1=1, y 3 = 3 y_{3}=3 y3=3

矩阵的加法和标量乘法

进行加法的两个矩阵维度必须相同,将对应的各个元素相加即可
标量乘法是一个常数乘以一个矩阵,只需将常数和矩阵的各个元素相乘即可

矩阵的乘法
特例:矩阵向量乘法

在这里插入图片描述

计算y各个元素的方法
y i = ∑ j = 1 n A i j × y j y_{i}=\sum_{j=1}^{n}A_{ij} \times y_{j} yi=j=1nAij×yj 1 ⩽ j ⩽ m 1 \leqslant j \leqslant m 1jm

一般乘法

在这里插入图片描述

计算C各个元素的方法
C i j = ∑ k = 1 n A i k × B k j C_{ij}=\sum_{k=1}^{n}A_{ik} \times B_{kj} Cij=k=1nAik×Bkj 1 ⩽ i ⩽ m 1 \leqslant i \leqslant m 1im, 1 ⩽ j ⩽ o 1 \leqslant j \leqslant o 1jo

矩阵乘法的特征
结合律和交换律
  1. 矩阵乘法不符合乘法交换律
  2. 矩阵乘法符合乘法结合率
单位矩阵

单位矩阵是指主对角线为1,其余位置数值为0的矩阵,一般用大写字母I来表示,如 4 × 4 4\times4 4×4 单位矩阵
I = [ 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 ] I= \left[ \begin{matrix} 1 & 0 & 0 & 0\\ 0 & 1 & 0 & 0 \\ 0 & 0 & 1 & 0 \\ 0 & 0 & 0 & 1 \end{matrix} \right] I=1000010000100001
性质:对于任意矩阵A,维度 m × n m \times n m×n,则 A × I n × n = I m × m × A = A A \times I_{n \times n}=I_{m \times m} \times A=A A×In×n=Im×m×A=A

矩阵的逆运算和转置运算
逆运算

方阵: m × m m \times m m×m 矩阵
只有方阵才有逆矩阵
如果A是一个 m × m m \times m m×m 矩阵,且如果A有逆矩阵,则 A A − 1 = A − 1 A = I m × m AA^{-1} =A^{-1}A=I_{m \times m} AA1=A1A=Im×m

转置运算

矩阵A的转置矩阵记作 A T A^{T} AT
A i j T = A j i A^{T}_{ij}=A_{ji} AijT=Aji

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值