liuyukuan的专栏

机器学习的核心在于使用学习算法建立模型，对已建立模型的质量的评价方法和指标不少，本文以准确率(也称为精度)或判定系数(Coefficient of Determination)作为性能指标对模型的偏差与方差、欠拟合与过拟合概念进行探讨。偏差、方差、欠拟合、过拟合均是对模型(学习器)质量的判断和描述，训练集和验证集(测试集)上的准确率或判定系数得分为做出上述判断提供依据。

相关的术语为了帮助你了解各种术语，我已经将它们分成3组。如果你正在寻找特定术语，你可以跳到该部分。如果你是这个领域的新手，那我建议你按照我写的顺序来通读它们。1.神经网络基础（Basics of Neural Networks）                                 ——常用激活函数（Common Activation Functi

由前面介绍看到，单个感知器能够完成线性可分数据的分类问题，是一种最简单的可以“学习”的机器。但他无法解决非线性问题。比如下图中的XOR问题：即（1,1）（-1,-1）属于同一类，而（1,-1）（-1,1）属于第二类的问题，不能由单个感知器正确分类。即在Minsky和Papert的专著《感知器》所分析的：感知器只能解决所谓一阶谓词逻辑问题：与（AND），或（OR）等，而不能解决异

之前学习神经网络，说道感知机不能解决异或问题，当时记住了，但是没有深入的思考，不能就不能呗，记住得了。后来仔细想了一下，原来是这样，现在记下来。所谓异或问题，就是就是说两个不一样，就是真（1），如果把异或问题表现为二维的分布，就是这样这样就很直观的把异或问题表现为点在二维平面上分布的问题。那么感知机有什么作用？我的理解就是在一个超平面上画一条线，线的

感知器（Perceptron）感知器是一种二元分类器，它是神经网络的基石。感知器是对神经细胞的模拟，如权量（突触）、偏置（阈值）及激活函数（细胞体）。输入以向量的形式表示 x=（x_0, x_1, x_2)，你可以把它们理解为不同的特征维度，其中的 x_0 是偏置单元（bias unit）, 相当于线性回归中的常数项。在经过 “神经元”（激活函数）的计算后，

BugBrain （虫脑）是关于人工神经网络的策略类游戏，是关于虫子女士的养成类游戏；游戏以已经获得广泛应用的的阶越激励函数神经元为基础，要求玩家构建神经网络，实现与环境的交互，使虫子拥有基本的生存技能；最低系统要求：Windows95,快速486,8M内存,256色.作者：Tom Morton这个游戏目前只有英文版。有人确实可以独立完成到蚂蚁的游戏

参考OR逻辑感知器，写了AND逻辑感知器;~ ================ ;~ ---Artificial Neural Networks--- ;~ --AND Logic Gate Perceptron ;~ =======Code=========#NoEnv ; Recommended for performance and compatibility with

` \ pythonHMM Forward algorithminput Matrix A,B vector piimport numpy as npA=np.array([[0.5,0.2,0.3],[0.3,0.5,0.2],[0.2,0.3,0.5]])B=np.array([[0.5,0.5],[0.4,0.6],[0.7,0.3]])O

HMM的代码，这次用Python写了一遍，依据仍然是李航博士的《统计学习方法》由于第一次用python，所以代码可能会有许多缺陷，但是所有代码都用书中的例题进行了测试，结果正确。这里想说一下python，在编写HMM过程中参看了之前写的MATLAB程序，发现他们有太多相似的地方，用到了numpy库，在python代码过程中最让我头疼的是数组角标，和MATLAB矩阵角标从1开始不

隐马尔可夫模型 (Hidden Markov Model，HMM) 最初由 L. E. Baum 和其它一些学者发表在一系列的统计学论文中，随后在语言识别，自然语言处理以及生物信息等领域体现了很大的价值。平时，经常能接触到涉及 HMM 的相关文章，一直没有仔细研究过，都是蜻蜓点水，因此，想花一点时间梳理下，加深理解，在此特别感谢 52nlp 对 HMM 的详细介绍。　　考虑下面交通灯的

一、决策树原理决策树是用样本的属性作为结点，用属性的取值作为分支的树结构。 决策树的根结点是所有样本中信息量最大的属性。树的中间结点是该结点为根的子树所包含的样本子集中信息量最大的属性。决策树的叶结点是样本的类别值。决策树是一种知识表示形式，它是对所有样本数据的高度概括决策树能准确地识别所有样本的类别，也能有效地识别新样本的类别。 决策树算法ID3的基本思想：

转自博客：计算机的潜意识　　神经网络是一门重要的机器学习技术。它是目前最为火热的研究方向--深度学习的基础。学习神经网络不仅可以让你掌握一门强大的机器学习方法，同时也可以更好地帮助你理解深度学习技术。　　本文以一种简单的，循序的方式讲解神经网络。适合对神经网络了解不多的同学。本文对阅读没有一定的前提要求，但是懂一些机器学习基础会更好地帮助理解本文。　　神经网络是一种模拟人脑的神

如果你曾经感觉到有一点头脑迟钝，请你不必担心。科学家们已经发现蜗牛仅使用两颗脑细胞就能做出复杂的决定。

不得不说，虽然人工智能这词里面既有人工又有智能，但是它跟人体最复杂的器官——人脑差得还有点远。但是根据最近发表在《Frontiers in Systems Neuroscience》的一篇论文，如果其发现属实的话，人类似乎离开发出类似人脑思维的AI不远了。这篇论文的题目叫做“脑计算是通过2的幂次方排列逻辑组织的（Brain Computation Is Organized via Power-

卷积神经网络转载请注明：http://blog.youkuaiyun.com/stdcoutzyx/article/details/41596663自今年七月份以来，一直在实验室负责卷积神经网络（Convolutional Neural Network，CNN），期间配置和使用过theano和cuda-convnet、cuda-convnet2。为了增进CNN的理解和使用，特写此博文，以其与人交流，互

转自：http://www.199it.com/archives/449359.html导读：关于Alfa Go的评论文章很多，但真正能够与开发团队交流的却不多，感谢Alfa Go开发团队DeepMind的朋友对我这篇文章内容的关注与探讨，指出我在之前那一版文章中用字上的不够精确，所以在此又作调整。我之前文章提到的「全局」指的是跨时间点的整场赛局，很容易被误认为是某个特定时点整个棋