weixin_43269419的博客

概率密度 reweight

花书 5.4.45.4.45.4.4 中说均方误差( MSE )度量着估计 θ^\hat{\theta}θ^ 和真实参数 θ\thetaθ 之间平方误差的总体期望偏差，但没有进行证明，现将推导过程展示在下面MSE=E[(θ^−θ)2]=E[((θ^−E(θ^))+(E(θ^)−θ))2]=E[(θ^−E(θ^))2]+E[(E(θ^)−θ)2]+2E[(θ^−E(θ^))(E(θ^)−θ)]=E[(θ^−E(θ^))2]+(E(θ^)−θ)2+2(E(θ^)−E(θ^))(E(θ^)−θ)=Var(θ^)

最近在看花书，其中 4.3 中提到了方向导数当 α=0\alpha = 0α=0 时， ∂∂αf(x+αu)=uT∇xf(x)\frac{\partial}{\partial \alpha}f(\textbf{x} + \alpha \textbf{u}) = \textbf{u}^T \nabla_xf(\textbf{x})∂α∂​f(x+αu)=uT∇x​f(x) 是怎么得出的？根据全微分∂f(x+αu)=∂f(x1+αu1)∂x1⋅∂(x1+αu1)+⋯+∂f(xn+αun)∂xn⋅∂(xn+

向量空间表示为 R1,R2,R3,R4,...,Rn\bf{R}^1, \bf{R}^2, \bf{R}^3, \bf{R}^4, ..., \bf{R}^nR1,R2,R3,R4,...,Rn 。 Rn\bf{R}^nRn 表示 nnn 维向量集合所组成的空间，称为二维向量空间。但是，并不是所有集合组成的空间都能称作向量空间，必须满足以下 2 个条件集合中的两个向量相加，所得的新向量依然在这个集合内。集合中的任一向量与一标量相乘，所得的新向量依然在这个集合内。举两个例子（ from mit公开课