Hacker_ccc的博客

本文详细介绍了卷积神经网络CNN的原理和步骤，从为什么需要CNN的思考入手，深入理解CNN存在的意义；并详细讲解了每个步骤，卷积步骤的具体实现，池化步骤的具体实现，如何利用keras框架实现CNN等。从神经网络的可解释性方面引入了Deep Dream和Deep Style，当下时兴有趣的东西；最后将CNN推广至更多的应用，如当下热门的Alpha Go，语音识别，文本挖掘等等方面。还有一些扩展文章供读者学习。

本文介绍了训练神经网络时，训练集表现不好或者测试集表现不好时，如何根据不同的大体情况，调节模型，使得模型表现得更好。里面介绍了新的激活函数，重点介绍了ReLU函数，涉及到了先前梯度下降法就提到过的自适应学习率；同时介绍了Early Stopping，正则化和DropOut等方法来调节过拟合的情况。

本文中简单引入了keras，同时对mini batch的设置进行了解释和分析，最后对经典的手写数字辨识的问题，进行了代码示例。

本文介绍了如何通过反向传播误差修正模型参数，从梯度下降法等原理处学习如何进行反向传播，进而了解为什么模型参数的修正和激活函数相关。

本文介绍了分类的判别式模型，从以往机器学习的三大步骤引入；在寻找最优解中，比较了与线性回归梯度下降法的不同；在损失函数层面，比较了交叉熵和square error的差异；在分类模型上，比较是本专栏上文的分类生成模型。最后在多分类问题上进行了扩展，在无法解决的同或问题中引入了特征映射和神经网络的概念。

通过概率生成模型，充分理解朴素贝叶斯分类过程中的整体过程，其中不缺乏对数学的理解，并通过数学模型，推导出逻辑斯特回归曲线模型。该文章可以使你对分类的概念更上一层楼

本文介绍了机器学习中常用于解决优化问题的梯度下降法；不局限于传统的梯度下降，文章还介绍了几种自适应式的梯度下降法，每个参数基于不同的学习率去进行梯度下降；同时讲到了Stochastic的梯度下降和数据的规范化，一定程度上能够提高效率；最后通过数学层面的分析，充分理解为什么梯度下降能够起作用。文章最后还提及了梯度下降法的一些限制。

从概率论、统计学的原始角度，充分理解偏差与方差；对不同的函数model的bias和Variance有充分理解，便于后续工作（模型选择，超参数调优）的一个开展。

课程笔记，用于复习

介绍了随机游走算法中常用的PageRank算法的基本过程，枚举了一些例子便于更好的理解；同时针对PageRank的问题，提出引入一个α进行修正。

本文将为你介绍集成学习，从最原始的Bagging到随机森林，最后是Boosting分类，涉及到权重分配式的AdaBoost和竞赛万金油算法XGBoost

从感知机出发，讲到多层感知机到多层神经网络，同时涉及常用的误差反向传播网络，即常说的BP算法，普及了其公式，并引入简单明了的例子更好的理解这个算法。最后是对sklearn多层感知机api的学习...

本文介绍的是聚类算法的实践，文章设计了层次聚类和聚类质量的评估方法；例如利用霍普金斯统计量估计聚类趋势，利用肘方法SSE确定聚类和轮廓系数检验聚类质量。最后有通过API实现Kmeans和层次聚类的处理...

逻辑回归的概念及其线性分类器的本质；引入优势比OR进行模型考量；对逻辑回归的多条分类线，提出正则化的方法及利用规范化进行数值优化等；最后比对两个梯度下降方法；

介绍了聚类算法中的K均值算法、影响因子和计算特性，并提出了一些结合性的方法——K众数算法，K-means++算法，K-中心点算法，解决K-means算法的一些缺点，提高K-means算法的通用性

决策树分类的理论，里面设计传统的Hunt算法，信息增益算法ID3；计算数据纯度的计算方法——信息熵，GINI指数，分类错误等；同时提及对决策树算法过拟合的解决。

机器学习分类算法之——朴素贝叶斯

数据挖掘中数据预处理的理论基础

对机器学习的一个大致引言