BachelorSC ' s Notes

模拟退火算法(Simulated Annealing，SA) - 属于启发式搜索什么是启发式搜索 ？启发式搜索(Heuristically Search)又称为有信息搜索(Informed Search)，它是利用问题拥有的启发信息来引导搜索，达到减少搜索范围、降低问题复杂度的目的。又或者说，在搜索最优解的过程中利用到了原来搜索过程中得到的信息，且这个信息会改进我们的搜索过程。模拟退火算法来源于固体退火原理，将固体加温至充分高，再让其徐徐冷却，加温时，固体内部粒子随温度上升变为无序状，.

循环神经网络RNN - Recurrent Neural NetworkPs 循环神经网络Recurrent Neural Network 和递归神经网络Recursive Neural Network虽然缩写都是RNN ，但实际上是不一样的。RNN(Recurrent Neural Network)是什么？循环神经网络（Recurrent Neural Network, RNN）是一类以序列（sequence）数据为输入，在序列的演进方向进行递归（recursion）且所有节点（循环单元）按

卷积神经网络CNN - Convolutional neural network在网络中采用卷积(一种特殊的线性运算)计算，卷积神经网络至少在一层中使用卷积代替一般矩阵乘法。[In mathematics , the asterisk is the standard symbol for convolution.]卷积计算用 “ * ”表示。1.卷积神经网络的结构(1)卷积层- Convolutional layer卷积层由若干卷积单元组成，每个卷积单元的参数都是通过反向传播算法(

1.符号主义与连接主义(1)符号主义：重视逻辑而轻视感知。Eg.专家系统(2)连接主义 ：重视感知而轻视逻辑。Eg.神经网络共同之处在于都是研究怎样用计算机来模拟人脑工作过程。(图源自《人工智能》 马少平)2.神经网络的基本模型(1)前馈型网络信号由输入层到输出层单向传播，每层的神经元仅与前层的神经元相连接，只接受前层传输来的信息。图来源《人工智能》 马少平(2)输入输出有反馈的前馈性网络其输出层上存在一个反馈回路到输入层的回路，网络本身还是前馈型的。...

决策树(Decision Tree)1.什么是决策树学习？决策树学习是以实例为基础的归纳学习，采用自顶向下的递归方法，决策树的每一层结点依照某一属性值向下分为子结点，待分类的实例在每一结点处与该结点相关的属性值进行比较，根据不同的比较结果向相应的子结点扩展，这一过程在到达决策树的叶结点时结束。=> 从根结点到叶结点的每一条路径都对应着一条合理的规则，规则间各部分的关系是合取关系，整个决策树对应着一组析取的规则。基本思路：以信息熵为度量构造一棵熵值下降最快的树，到叶子结点处的熵值.

1.什么是实例学习 ？实例学习是一种归纳学习方法，从大量的学习样本中归纳总结出相应的规则、概念。<归纳推理不保真，因此要反复进行示例与归纳，避免归纳的错误结论影响最终结果>实例学习的过程即在实例空间和规则空间中搜索、匹配的过程。首先示教者给实例空间提供一些初始示教例子，由于示教例子的形式往往不同于规则的形式，程序必须对示教例子进行解释，然后再利用被解释的示教例子去搜索规则空间。并且要寻找一些合适的新的示教例子以解决规则空间中某些规则的歧义性。<解释例子+选择例子>.

贝叶斯网络一个在弧的连接关系上加入连接强度的因果关系网络。1.贝叶斯网络的组成是一系列变量和联合概率分布的图形表示，一般包含两个部分。(1)贝叶斯网络结构图 - 有向无环图(DAG , Directed Acyclic Graph)，其中图中的每个结点代表相应的变量。当有向弧由结点A指向结点B时，称A是B的父结点，B是A的子结点。(2)结点和结点之间的条件概率表(CPT)，即一系列的概率值，表示了局部条件概率分布。//图来自《人工智能》 马少平* 条件独立属性：每一个变量独.

语义网络由结点和结点间的有向弧组成的有向图。语义网络近年来成为人工智能中应用较多的一种知识表示方法，尤其是在自然语言处理方面。1.语义网络的结构语义网络是一种用实体及其语义关系来表达知识的知识表达方式。语义网络一般由一些最基本的语义单元/语义基元组成，语义基元是由有向图表示的三元组 (结点A，弧，结点B)结点代表实体，表示各种事物、概念、情况、属性、状态、事件、动作等。弧是有方向和标注的，方向体现了结点所代表的实体的主次关系，即结点A为主，结点B为辅；线上的标注表示它.

产生式系统（Production System）把一组产生式放在一起，让它们相互配合，协同工作，一个产生式生成的结论可以供另一个产生式作为前提使用，以这种方式求得问题的解决的系统就叫作产生式系统。产生式又称作规则或产生式规则。用于表示事物间的因果关系。IF <前提> THEN <结论>产生式系统 = 数据库 + 规则库 + 推理机数据库 - 存放信息...