机器学习相关数学知识

引言

        用来记录学习到的相关数学概念

1，机器学习中常见的几种距离度量

2，梯度

2.1基本概念

        函数在某一点的梯度是一个向量，它的方向与取得最大方向导数的方向一致，而它的模为方向导数的最大值。

2.2几何意义

        函数z=f(x,y)在点P0处的梯度方向是函数变化率(即方向导数)最大的方向。是函数f(x,y)在这点增长最快的方向，梯度的模为方向导数的最大值。

2.3计算方法

3，Sigmoid 函数

3.1函数基本性质

函数形式与图像

4，笛卡尔内积

笛卡尔乘积是指在数学中，两个集合X和Y的笛卡尔积（Cartesian product），又称直积，表示为X × Y，第一个对象是X的成员而第二个对象是Y的所有可能有序对的其中一个成员。

假设集合A={a, b}，集合B={0, 1, 2}，则两个集合的笛卡尔积为{(a, 0), (a, 1), (a, 2), (b, 0), (b, 1), (b, 2)}。

5，语义相似度算法

5.1 WUP（Wu&Palmer）

5.2 LIN

5.3 RES