乾坤瞬间的博客

在机器学习领域有一种叫entropy目标函数,我们想通过调整参数(w,θ)去优化这种目标函数,以达到寻找到的含有某个参数(w,θ)的模型,最大程度上来表示我们想要描述的事件. 但是,对于没有接触过熵这种概念的同学,实在是很困惑,熵到底是什么?为什么熵能够代表对原信息的一种度量标准(criteria)?这种想法,也一直困扰着我,感觉"熵"这种高大上的东西, 感觉就像"量子物理"的"量子"概念一样

1.在很多领域中，高维（dimension）数据的可视化已经日益变成一种非常重要而亟需解决的一个问题。这种问题主要源自于人们无法直观理解高维空间中的数据，比较人们的思维普遍还存在于三维空间中来处理、理解事物。经过科学家的能力，在可视化技术中出现了非常不错的方法，而主要的方法就是通过降维的手段来处理数据，并投影到二维或三维空间中，主流的有 PCA(主成分分析)、MDS(multi-dimension...