向量积中的内积、外积及其表现形式


今天在学习SVM算法的时候,涉及到了向量的运算,所以我在这里进行了整理。

首先我先对向量进行一下介绍:
向量是由n个实数组成的一个n行1列(n*1)或一个1行n列(1*n)的有序数组;

一、内积(向量点乘)

1.定义

向量的点乘,也叫向量的内积、数量积,对两个向量执行点乘运算,就是对这两个向量对应位一一相乘之后求和的操作,点乘的结果是一个标量。

具体点说,两个向量a与b的内积为 a·b = |a||b|cos∠(a, b),它是数量而不是向量。
特别地,0·a =a·0 = 0;若a,b是非零向量,则a与b正交的充要条件是a·b = 0。
在这里插入图片描述

2.点乘

比如说,给定向量a和向量b:

在这里插入图片描述
a和b的点积公式为:
在这里插入图片描述
可以是必须要求一维向量a和向量b的行列数相同才可以。

3.点乘的几何意义

点乘的几何意义是可以用来表征或计算两个向量之间的夹角,以及在b向量在a向量方向上的投影,有公式:
在这里插入图片描述
我们用一个图来具体看一下:
在这里插入图片描述
根据数学上的知识,我们可以知道: c=a-b
我们来具体推导一下。
根据数学中的三角形余弦定理可以得出:
在这里插入图片描述
然后上面又推出c=a-b,将c带入上面公式可得:
在这里插入图片描述
化简之后可以得出:
在这里插入图片描述
根据这个公式就可以计算向量a和向量b之间的夹角。从而就可以进一步判断这两个向量是否是同一方向,是否正交(也就是垂直)等方向关系,具体对应关系为:

 a·b>0    方向基本相同,夹角在0°到90°之间

 a·b=0    正交,相互垂直  

 a·b<0    方向基本相反,夹角在90°到180°之间
4.基本性质
  • a^2 ≥ 0;当a^2 = 0时,必有a = 0. (正定性)
  • a·b = b·a.
  • (λa + μb)·c = λa·c + μb·c,对任意实数λ, μ成立. (线性)
  • cos∠(a,b) =a·b/(|a||b|).
  • |a·b| ≤ |a||b|,等号只在a与b共线时成立.

余弦定理:在△ABC中,成立 c^2 = a^2 + b^2 - 2abcosC,如下图所示:
在这里插入图片描述

二、外积(叉乘、向量积)

1.定义

两个向量的叉乘,又叫向量积、外积、叉积,叉乘的运算结果是一个向量而不是一个标量。并且两个向量的叉积与这两个向量组成的坐标平面垂直。

具体的来说,向量a与b的外积a×b是一个向量,其长度等于|a×b| = |a||b|sin∠(a,b),其方向正交于a与b。并且,(a,b,a×b)构成右手系。
特别地,0×a = a×0 = 0.此外,对任意向量a,a×a=0。
在这里插入图片描述

2.叉乘公式

给定两个向量a和b:
在这里插入图片描述
a和b的乘积公式为:
在这里插入图片描述
其中:
在这里插入图片描述
则根据i,j,k的关系可以得出:
在这里插入图片描述

3.外积的几何意义

在二维空间上,a与b的外积在数值上等于以a,b为邻边的平行四边形的面积。
正弦定理:a/sinA = b/sinB = c/sinC,如下图所示:
在这里插入图片描述

在三维几何中,向量a和向量b的叉乘结果是一个向量,更为熟知的叫法是法向量,该向量垂直于a和b向量构成的平面。

在3D图像学中,叉乘的概念非常有用,可以通过两个向量的叉乘,生成第三个垂直于a,b的法向量,从而构建X、Y、Z坐标系。如下图所示:
在这里插入图片描述

4.基本性质
  • a × b = -b × a. (反衬性)
  • (λa + μb) × c = λ(a ×c) + μ(b ×c). (线性)

本文参考自:https://blog.youkuaiyun.com/xuxinrk/article/details/80395746

### 协方差矩阵的内积外积表示 协方差矩阵可以通过数据样本向量内积外积来表达。对于一组零均值的数据样本 \( X \),其形状为 \( n \times d \) (\(n\) 是样本数量,\(d\) 是特征维度),可以利用这些操作定义协方差矩阵。 #### 外积形式 当考虑两个随机变量 \(X_i\) 和 \(X_j\) 的协方差时,在多维情况下这相当于计算不同列之间组合的结果。如果将每个观测视为一个向量,则整个数据集可被看作是一个大矩阵。通过中心化后的数据矩阵 \(X_c\)(即每一列为原始数据减去该列平均数得到的新矩阵),则协方差矩阵可通过下述公式获得: \[ C = \frac{1}{N-1} X_c^\top X_c \] 这里 \(X_c^\top\) 表示转置矩阵,而乘法运算实际上是在执行一系列外积并求和的操作[^1]。 #### 内积形式 另一方面,也可以从单个观察的角度出发理解协方差矩阵。给定一对标准化后的向量 \(x_i, x_j\) ,它们之间的协方差等于这两个向量间的内积除以样本总数减一: \[ cov(x_i,x_j)=\langle x_i-\mu_i , x_j-\mu_j\rangle / (N-1)\] 其中 \( \langle a,b \rangle \) 表示向量a与b的标准内积;\( \mu_k \) 代表第k个属性上的总体均值。因此,完整的协方差矩阵就是所有可能成对组合的此类内积构成的一个矩阵[^2]。 #### Python 实现 下面给出一段Python代码用于展示如何基于上述两种方法之一——外积方式构建协方差矩阵。这段代码假设输入已经过预处理成为了一个零均值的数据框 `df`。 ```python import numpy as np def compute_covariance_matrix(df): # 将DataFrame转换为NumPy数组,并确保它是浮点型以便后续计算 data = df.values.astype(float) # 中心化数据 centered_data = data - np.mean(data, axis=0) # 使用外积计算协方差矩阵 covariance_matrix = np.dot(centered_data.T, centered_data)/(data.shape[0]-1) return covariance_matrix ``` 此函数接收pandas DataFrame作为参数,并返回相应的协方差矩阵。注意这里的实现遵循了之前提到的比例因子 \(1/(N−1)\)[^3]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值