babychrislee3的博客

P和q不满足对称性，所以不是真正的“距离”（数学中的距离必须满足非负性、对称性、三角不等式）当两个概率分布完全相同时，相对熵为0【证明：（1） 若存在x使得q（x）=0，则D（q||p）=∞（2） 若q（x）> 0，D（q||p）...

分维的概念（一）我们首先画一个线段、正方形和立方体，它们的边长都是1。将它们的边长二等分，此时，原图的线度缩小为原来的1/2，而将原图等分为若干个相似的图形。其线段、正方形、立方体分别被等分为2、4、8个相似的子图形，其中的指数1、2、3，正好等于与图形相应的经验维数。（线段一分为二；正方形一分为四；立方体一分为八）一般说来，如果某图形是由把原图缩小为1/a的相似的b个图形所组成，有：   ...