北境の守望者

机器学习的算法是一种能够从数据中学习的算法。 机器学习简介：任务 T, 性能度量 P 和 经验 E 容量、过拟合和欠拟合 估计、偏差和方差 最大似然估计 最大后验(MAP)估计 监督学习算法 线性回归 支持向量机 SVM 无监督学习算法 主成分分析 k 近邻算法 k 均值聚类 促使深度学习发展的挑战 维数灾难 流形学习 ...

Backto ML Index 在训练一个模型的时候，通常我们会先在一个训练集(training set) 上让模型学习，然后放到一个陌生的测试集(test set)上让模型考试。在 training set 上的误差称为训练误差(training error), test set 上的误差称为 泛化误差(generalization error/test error). 对于一个模型而言，我...

Backto ML Index 用于分类结果的量化评价, 首先, 4 个 值, [True False] * [Positive Negative], 这四个类别的划分, 要从后往前看, 先区分分类的结果是 Positive or Negative, 之后, 再与 Ground Truth 做对比, 一致的前面加 True, 否则加 False. 分类的结果统计一下, 可以构成 Confus...

Backto Machine Learning Index Naive Bayes 基于 贝叶斯定理 P(B|A)=P(A|B)P(B)P(A)P(B|A)=P(A|B)P(B)P(A)P(B \vert A) = \frac {P(A | B)P(B)}{P(A)}. 用于分类问题的时候, 在样本出现的前提下看那个类别的概率最大, 就跑向哪一个, 非常 simple, 非常 ...

Backto TensorFlow Index 官网教程 莫烦的 TensorFlow 教程 : 有文章,有优酷视频, 非常棒

Backto Machine Learning Index 不知道为什么翻译成正则化, 我更愿意叫约束化. 模型在自由空间生长, 很容易跑野了, 添加一些 regulations, 来约束模型的生成路径, 从而获得更好的模型. 小树要砍, 小孩要管, model 要 regularization....

Intro 随机森林，Random 地构造许多 Decision tree, 形成一个 forest。Forest 中的 decision tree 共同 vote 决定最终输出。 Ref 说说随机森林： 生动形象，通俗易懂 随机森林（原理/样例实现/参数调优） : 各个术语、参数讲解的很明白 随机森林原理介绍与适用情况（综述篇）: 嗯，分门别类总结的很到位 ...

Ref Decision trees algorithms: origin, 中翻, 课件 决策树Decision Tree原理与实现技巧 决策树（Decision Tree）&随机森林（Random forest）

Ref K-means算法及C语言实现：总结的不错 OpenCV中的K-means聚类: Python 版本，带 plt 直方图过程

简介 Intro Ref 简介 Intro Mean Shift算法,一般是指一个迭代的步骤,即先算出当前点的偏移均值,移动该点到其偏移均值,然后以此为新的起始点,继续移动,直到满足一定的条件结束. Ref Meanshift，聚类算法: 经典入门，算法推导+图像平滑 Mean Shift : Theory and Applications : 教科书。详细的理论推...

应用 Applications 应用 Applications 在手势识别中，将采集到的深度图像进行 PCA，取前三个主成分作为 X, Y, Z 轴方向，即得到手掌的长，宽和厚度方向。参见 Robust 3D Hand Pose Estimation in Single Depth Images: from Single-View CNN to Multi-View CNNs *...

Ref KNN学习算法与C语言实现

Softmax