齐梦星空

批量梯度下降算法实现import numpy as np# 设置数据集的行数和维数r = 20c = 10# 生成数据集合labelx = np.random.randint(0, 10, r * c).reshape(r, c) # 20行，10列x = np.hstack((x, np.ones(r).reshape(r, 1))) # 20行，11列y = np....

一个例子搞清楚（先验分布/后验分布/似然估计）preface： 无论是《通信原理》、《信息论》、《信道编码》还是《概率与统计理论》，或者在现在流行的《模式识别》和《Machine Learning》中总会遇到这么几个概念：先验分布/后验分布/似然估计。 如果大家不熟悉这几个词，相信大家熟知贝叶斯公式，该公式涉及到了以上几个概念。但是...

    假设某批样本就服从某个分布。极大似然估计就是估计某个参数支持这个分布。这样对某个函数的参数的求值就转化为求似然函数最大时对应的的参数值。接下来是如何求似然函数最大时对应的参数值。如果这里的似然函数是个凸函数，就可以用凸函数的优化理论求值。当然也可以用梯度下降算法，牛顿法求解。...