noobiee的博客

每个时刻的状态概率给定，我们希望计算整个路径（所有时刻）的最大概率状态。

大纲数学基础：凸凹函数，Jensen不等式，MLEEM算法公式，收敛性HMM高斯混合模型一、数学基础1. 凸函数通常在实际中，最小化的函数有几个极值，所以最优化算法得出的极值不确实是否为全局的极值，对于一些特殊的函数，凸函数与凹函数，任何局部极值也是全局极致，因此如果目标函数是凸的或凹的，那么优化算法就能保证是全局的。定义1：集合Rc⊂EnR_c\subset E^nRc​⊂En是凸集，如果对每对点x1,x2⊂Rc\textbf{x}_1,\textbf{x}_2\subset R_cx1

使用决策树进行决策的过程就是从根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，直到到达叶子节点，将叶子节点存放的类别作为决策结果。所以，特征A对训练数据集D的信息增益g(D,A)，定义为集合D的经验熵H(D)与特征A给定条件下D的经验条件熵H(D|A)之差.如果信息的不确定性越大，熵的值也就越大，出现的各种情况也就越多。条件熵H(Y∣X)表示在已知随机变量X的条件下随机变量Y的不确定性，随机变量X给定的条件下随机变量Y的条件熵(conditional entropy)

一、前言人机博弈是人工智能的重要分支，人们在这一领域探索的过程中产生了大量的研究成果，而极小化极大算法(minimax)是其中最基础的算法，它由Shannon在1950年正式提出。Alpha-beta剪枝的本质就是一种基于极小化极大算法的改进方法。Knuth等人在1975年优化了算法，提出了负极大值(negamax)概念，这一概念的原理本质上与极小化极大值算法并无不同，但是却不需要系统区分取极大值者和极小值者，使得算法更加统一。

模拟退火算法（Simulate Anneal，SA）是一种通用概率演算法，用来在一个大的搜寻空间内找寻命题的最优解。它是基于Monte-Carlo迭代求解策略的一种。最好的选择方案是取第best_object_number:[1, 2, 3, 5, 7]个物品,total_value:2979。

排序算法 Sorting algorithms插入排序 (Insertion sort)第n个元素依次比较前n-1个已排序好的数组元素直到插入相应位置平均时间复杂度：O(n²)空间复杂度：O(1)def insertion_sort(seq): for j in range(1, len(seq)): key = seq[j] i = j - 1 while i >= 0 and seq[i] > key: seq[i + 1] = seq[i]