机器学习与数学分析（一）

1. 机器学习过程
   
2. 用EM算法推测高斯混合模型（GMM）
   
3. 去均值ICA分离
   
4. SVM
   
5. HMM分词：MLE
6. LDA --主题分布 舆情分析
7. 且e的近似值
   
   

from matplotlib import pyplot as plt
def f_n(n):
    if n<0:
        return
    r = 1 #　存储n!
    s = 1
    if n==0:
        return r
    for i in range(1,n+1):
        r *= i
        s += 1./r

    return s
l = list(range(15))
res =map(f_n,l)

plt.plot(list(res))
plt.title("泰勒展式近似e")
plt.rcParams['font.sans-serif']=['SimHei'] #显示中文
plt.show()

8. 泰勒公式
   
   熵
   $$H(x)=-\sum _{k=1}^K{p}_{k}ln{p}_k(1)$$
   -ln(x)在x=1处一阶近似展开为1-x
   (1)式近似后，得到Gini系数
   $$Gini(x)=-\sum _{k=1}^K{p}_k(1-p_k)$$
   
9. 方向导数（函数f(x,y)沿直线l的导数）
   
   当方向导数为f(x,y) 的偏导方向时，导数下降最快，为梯度
   
10. 伽马函数
    
11. 凸函数。
    不等式可通过费马定理证明（定于f关于$\lambda$的函数）
    
12. softmax近似
    
    
13. 古典概型