机器学习中的熵、条件熵、相对熵和交叉熵（为何使用交叉熵作为损失函数）

信息熵，条件熵，相对熵，交叉熵的定义与意义：

https://blog.youkuaiyun.com/u013569304/article/details/82595548

数据压缩与信息熵：

http://www.ruanyifeng.com/blog/2014/09/information-entropy.html