引言
刚进入AI的世界,一开始就是一大堆的原理和公式,公式中的各种让你大头的符号让数学不好的当场破防。MMP,这个还真不是普通人用的。但是在理解这些符号后,你会发现,AI算法也没有那么的不讲道理。
AI算法中常见的数学符号及其含义整理,按照功能和领域分类呈现:
一、基础运算符号
- **∑(Sigma)**
- 含义:求和符号,表示连续加法运算。
- 示例:$ \sum_{i=1}^n x_i =x1+x2+⋯+xn $,常用于损失函数或统计量的计算。
- 变体:小写σ表示统计学中的标准差1。
- **∏(Pi)**
- 含义:连乘符号,表示连续乘法运算。
- 应用:概率论中联合概率的计算,如贝叶斯网络中的链式规则。
- **∫(积分符号)**
- 含义:连续求和,常用于概率密度函数或期望值的计算。
二、矩阵与张量运算符号
- **⊙(Hadamard乘积)**
- 含义:矩阵逐元素相乘,要求两矩阵维度相同。
- 应用:神经网络中的门控机制(如LSTM、GRU)。
- **⊗(Kronecker乘积)**
- 含义:生成块矩阵的高维张量积,适用于张量分解或高阶数据处理。
- 向量/矩阵表示
- 标量:小写字母(如a)。
- 向量:粗体小写(如$ \boldsymbol{v} $)。
- 矩阵:大写字母(如A)或粗体大写(如$ \mathbf{A} $)。
- 张量:特殊字体(如$ \mathcal{T} $)。
三、概率与统计符号
- P 或 p
- 含义:概率,$ P(A) $表示事件A发生的概率。
- $ \mathbb{E} $
- 含义:期望值,如$ \mathbb{E}[X] $表示随机变量X的期望。
- $ \binom{n}{k} $**(组合数)**
- 含义:从n个元素中选kkk个的组合数,公式为$ \frac{n!}{k!(n-k)!} $,用于概率分布(如二项分布)。
四、集合与逻辑符号
- **∈(属于)**
- 含义:元素属于某集合,如$ x∈R $表示x是实数。
- **∪/∩(并集/交集)**
- 含义:集合运算,用于数据集的合并或特征筛选。
- **∀/∃(全称量词/存在量词)**
- 含义:逻辑符号,表示“对所有”或“存在”,用于形式化约束条件。
五、特殊函数与运算符
- $ \log
∗
∗
或
∗
∗
**或**
∗∗或∗∗ \ln $
- 含义:对数运算,常见于交叉熵损失函数和信息论中。
- $ \nabla $**(梯度算子)**
- 含义:求多元函数的梯度,用于优化算法(如梯度下降)。
- $ \delta $**(示性函数)**
- 含义:条件成立时取1,否则取0,如$ \delta(x>0) $。
六、希腊字母应用
- **α(Alpha)**:学习率参数。
- **β(Beta)**:正则化系数或动量参数。
- **θ(Theta)**:模型参数集合。
- **μ(Mu)**:均值。
- **σ(Sigma)**:标准差或激活函数(如Sigmoid)。
总结
符号的标准化表示需结合具体算法场景,例如矩阵运算在神经网络中的核心地位,概率符号在贝叶斯推断中的重要性。建议结合具体算法(如线性回归、反向传播)进一步理解符号的实践意义。
图片来源网络,侵权删