wuchuankang的博客

最近在看Stephen Boyd的《凸优化》，对其中采用二次范数的最速下降方法，书中没有详细的推导，现分析如下，本人水平有限，如有错误，欢迎指正！首先对二次范数的定义和对偶范数进行说明1. 二次范数的定义对于，P的二次范数如下：推导如下：2. 二次范数的对偶范数即是：对于给定的z和P，方向大小已定，要使上式內积最大，要和方向一致，且3. 二次范数的规范化的最速下降方法...

最大似然函数、交叉熵和经验分布的关系经验分布最大似然函数能推导出交叉熵，他们俩本质是一回事，推导的桥梁就是经验分布。经验分布的定义：KaTeX parse error: No such environment: equation at position 8: \begin{̲e̲q̲u̲a̲t̲i̲o̲n̲}̲\widehat p_{da…这是对连续函数而言的，其中xkx_kxk...

决策理论：最小错误率和最小期望误差最小错误率这里是对分类问题而言的，现在考虑二分问题，对于一个输入向量，出现错误的情况是，真是标签是C1C_1C1​的被分到C2C_2C2​上，反之亦然。因为真是标签不知道，所以我们用概率来表达：KaTeX parse error: No such environment: split at position 8: \begin{̲s̲p̲l̲i̲t̲}...