- 博客(10)
- 收藏
- 关注
RSS订阅原创 机器学习系列：动态规划 (3)
序列编辑距离显然是一个多阶段决策类型的最优解问题，对一个字符串做最小的修改变换到另一个字符串，需要在处理过程中的每个阶段都选择修改最小的方式，但是该问题中每个阶段之间都不是孤立的，受到前面已经确定的决策和后面可选的决策共同影响，无法通过对每一次决策的最优决策简单堆叠出最后的最优结果，因此可以优先考虑动态规划法。这说明将一个字符串经由插入、删除或替换等操作转换成另外一个字符串的方法不止一种，所需要做的编辑次数也不相同，如果有某种方法能够用最小的操作次数完成转换，这种方法的编辑次数就是我们要求的编辑距离。
2026-09-26 16:04:12
207
原创 机器学习系列：动态规划 (2)
资源分配问题是运筹学中的经典优化问题，核心是在资源有限条件下实现总收益最大化。动态规划是求解此类问题的有效方法，尤其适用于具有最优子结构和重叠子问题特性的多阶段决策场景。根据资源特性，可分为一维离散、一维连续和多维资源分配三类。本文以设备分配与机器负荷分配为例，详细阐述动态规划建模过程，并通过MATLAB实现算法求解，展示了逆序递推与回溯求最优解的完整流程，验证了该方法在实际应用中的有效性。
2026-09-17 15:07:32
237
原创 机器学习系列：动态规划 (1)
动态规划是求解多阶段决策优化问题的经典方法，由贝尔曼提出最优性原理，核心在于最优子结构、重叠子问题与无后效性。通过状态划分、转移方程构建与递推求解，可将指数复杂度降至多项式级别。典型应用包括数塔最大路径和、最短路径及背包问题（01、完全、多重背包），广泛用于工程、经济与计算机领域。
2026-09-15 15:30:31
91
原创 机器学习系列：隐马尔可夫模型 (3)
近似算法计算过程简单，但不能保证它是整体上的最优状态序列，而且其预测的序列可能有实际不发生的部分，即有可能出现转移概率为0的相邻状态。其中的myHMMgenerate函数的功能是用来产生一组给定模型参数情况下定长的观测序列和状态序列。Viterbi算法（维特比算法）是通过动态规划方法在各个状态节点中求出一条概率最大的路径，其中的每一条路径即对应着一个状态序列。以下在MATLAB中通过一个具体的例子来验证前面给出的学习问题和解码问题的算法。在前面给出的网状图中，若在最优路径中已确定t时刻的状态是。
2026-08-17 10:33:37
264
原创 机器学习系列：隐马尔可夫模型 (2)
本文主要探讨隐马尔可夫模型（HMM）的学习问题，分为监督学习和非监督学习两种方法。监督学习适用于训练数据中包含观测序列和对应状态序列的情况，通过统计频数估计初始状态概率、状态转移矩阵和发射矩阵。非监督学习则针对仅有观测序列的情况，采用EM算法（Baum-Welch算法）迭代优化模型参数，包括E步计算状态占用概率和状态转移概率，以及M步更新模型参数。文章详细推导了参数更新的数学过程，并提供了MATLAB实现代码，展示了如何通过频率统计和EM算法分别解决HMM的学习问题。最后指出算法通过迭代直至参数收敛或达到最
2026-08-14 19:34:52
398
原创 机器学习系列：隐马尔可夫模型 (1)
本文摘要： 隐马尔可夫模型（HMM）是一种处理时间序列数据的概率统计模型，由Baum等人于20世纪60年代提出，广泛应用于语音识别、自然语言处理等领域。HMM通过观测序列推断隐藏状态序列，核心要素包括隐藏状态集合、观测状态集合及三个概率矩阵（初始状态、状态转移、观测概率）。模型遵循齐次马尔可夫性、观测独立性和时齐性假设。HMM的三大基本问题为概率计算、参数学习和状态解码，其中前向-后向算法高效解决了概率计算问题，避免了直接枚举的高复杂度。文章还探讨了状态占用概率和转移概率的计算方法，并通过缩放因子法改进数值
2026-08-14 15:53:19
681
原创 机器学习系列：随机采样方法之接受-拒绝采样
或（Acceptance-Rejection Sampling）是一种通用的蒙特卡洛采样方法，由约翰·冯·诺依曼（John von Neumann）于20 世纪 40 年代中期（约 1947-1951 年间）在曼哈顿计划期间正式提出并系统化。该方法用于从难以直接采样的复杂目标分布中生成样本。其核心思想是利用一个易于采样的建议分布来包裹目标分布，并通过概率判断接受或拒绝样本，从而间接获得服从目标分布的样本集。
2026-07-14 17:11:16
238
原创 机器学习系列：高斯混合模型(2)
给出了用EM算法拟合单变量高斯混合模型的过程，这一篇着重讨论EM算法拟合多变量高斯混合模型过程。EM算法拟合单变量高斯混合模型和多变量高斯混合模型步骤基本相同，只是多变量高斯混合模型中正态分布模型中的参数均值向量和协方差矩阵是多维的，其参数迭代式的推导过程略显复杂。这里主要涉及到矩阵求导公式。
2026-07-09 16:55:05
190
原创 机器学习系列：高斯混合模型(1)
高斯混合模型（GMM，也叫混合高斯模型）是一种参数化的概率统计方法，核心思想是假设复杂数据分布由多个高斯分布（钟形正态曲线）叠加组成，能灵活拟合多峰、非球形的复杂数据分布。一般的GMM由多个高斯分布线性组合而成，每个分布拥有独立的均值或均值向量（决定分布中心）、标准差或协方差矩阵（决定分布的形状、分散程度）和混合权重（该分布在总数据中的占比，所有权重之和为1）。
2026-07-03 16:16:48
359
原创 机器学习系列: EM算法
EM算法是一种通过迭代优化处理含隐变量概率模型的参数估计方法。该文系统介绍了EM算法的发展历程、基本原理、推导过程及收敛性证明。算法通过E步计算完整数据对数似然关于隐变量后验分布的期望（Q函数）和M步最大化Q函数实现参数更新，确保似然函数单调递增至局部最优。文中以三硬币模型为例演示了EM算法的具体应用，并给出MATLAB实现代码。EM算法广泛应用于高斯混合模型、隐马尔可夫模型等非监督学习任务，为处理缺失数据问题提供了有效解决方案。
2026-06-24 17:10:30
291
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人