ZJ__ZFH的博客

一元线性回归公式推导求解偏置b的公式推导推导思路Created with Raphaël 2.2.0开始由最小二乘法导出损失函数E(w,b)证明损失函数E(w,b)是关于w和b的凸函数对损失函数E(w,b)关于b求一阶偏导数令一阶偏导数等于0求b结束由最小二乘法导出损失函数E(w,b)最小二乘法是最小化均方误差来进行模型求解的，E(w,b)就是所有样本的均方误差加和，均方误差是真实值yi...

多元线性回归公式推导求解权重w^\hat{w}w^的公式推导推导思路Created with Raphaël 2.2.0开始由最小二乘法导出损失函数$E_{\hat{w}}$证明损失函数$E_{\hat{w}}$是关于$\hat{w}$的凸函数对损失函数$E_{\hat{w}}$关于$\hat{w}$求一阶偏导数令一阶偏导数等于\vec{0}解出$\hat{w}$结束流程图数学符号不能正确...

广义线性模型指数族分布指数族(Exponential family)分布是一类分布的总称，该类分布的分布律(或者概论密度函数)的一般形式如p(y;η)=b(y)exp(ηTT(y)−a(η))p(y;\eta ) = b(y)exp(\eta^{\mathrm{T}} T(y)- a(\eta))p(y;η)=b(y)exp(ηTT(y)−a(η))其中，η\etaη称为该分布的自然参...

ID3决策树信息熵，是度量样本集合纯度最常用的一种指标，其定义如下Ent(D)=−∑k=1∣Y∣pklog⁡2pkEnt(D) = -\sum_{k=1}^{|\mathcal{Y}|}p_{k}\log_{2}p_{k}Ent(D)=−k=1∑∣Y∣​pk​log2​pk​其中D={(x1,y1),(x2,y2),⋯ ,(xn,yn)}D=\left \{ (x_{1},y_{1}),...