
人工智能
文章平均质量分 91
Luqiang_Shi
在读博士
联系方式:2015110409@mail.hfut.edu.cn
展开
-
【机器学习】最小二乘法支持向量机LSSVM的数学原理与Python实现
【机器学习】最小二乘法支持向量机LSSVM的数学原理与Python实现一、LSSVM数学原理1. 感知机2. SVM3. LSSVM4. LSSVM与SVM的区别二、LSSVM的python实现参考资料一、LSSVM数学原理1. 感知机SVM是从感知机发展而来。假设有m个训练样本{(xi,yi)}i=1m\left\{ {\left. {\left( {{x_i},{y_i}} \right...原创 2018-11-18 20:59:32 · 41011 阅读 · 21 评论 -
【机器学习】因子分解机(Factorization Machine)原理与java实现
【机器学习】因子分解机(Factorization Machine)原理与java实现1、因子分解机原理1.1、分离超平面1.2、阈值函数1.3、样本概率1.4、损失函数1.5、随机梯度下降训练模型2、java实现参考资料因子分解机(Factorization Machine)与Logistic Regression算法和Softmax Regression算法一样,都是基于概率的机器学习算法。...原创 2019-01-20 19:57:33 · 1519 阅读 · 0 评论 -
【机器学习】基于奇异值分解(SVD)的协同过滤推荐算法及python实现
【机器学习】基于奇异值分解(SVD)的协同过滤推荐算法及python实现一、协同过滤推荐算法1.1、协同过滤算法的分类1.2、相似度的度量1.3、商品评分的预测二、奇异值分解(SVD)在协同过滤算法中的应用2.1、协同过滤算法的缺陷2.2、奇异值分解在协同过滤算法中的应用三、python实现参考资料推荐算法是机器学习的一个重要分支,协同过滤(Collaborative Filtering,CF)...原创 2019-02-23 15:17:21 · 5407 阅读 · 4 评论 -
【超参数寻优】粒子群算法(PSO) 超参数寻优的python实现
【寻优算法】粒子群算法(PSO) 参数寻优的python实现一、算法原理1、粒子群算法的名词解释2、粒子更新二、PSO算法参数寻优的python实现参考资料粒子群优化算法(Particle swarm optimization,PSO)是模拟鸟群捕食行为的优化算法。不同于遗传算法(Genetic Alogrithm,GA),粒子群算法是有记忆的,之前迭代过程中的最优位置和最优方向都会保留下来并作...原创 2018-12-02 19:52:52 · 26816 阅读 · 24 评论 -
【超参数寻优】量子遗传算法(QGA) 超参数寻优的python实现
【寻优算法】量子遗传算法(QGA) 参数寻优的python实现:多参数寻优一、量子编码1、染色体量子编码2、量子编码转换为二进制编码二、量子进化1、全干扰交叉2、量子变异三、QGA多参数寻优的python实现1、训练模型及待寻优参数2、QGA算法的python代码参考资料遗传算法用于模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型,种群通过选择、交叉和变异操作使染色体的十进制数...原创 2018-12-01 14:25:26 · 9677 阅读 · 6 评论 -
【超参数寻优】交叉验证(Cross Validation)超参数寻优的python实现:多参数寻优
【寻优算法】交叉验证(Cross Validation)参数寻优的python实现:多参数寻优一、网格搜索原理二、网格搜索+交叉验证用于多参数寻优的python实现1、训练模型及待寻优参数2、直接循环嵌套实现网格搜索 + cross_validation3、GridSearchCV参考资料交叉验证的基础知识可参考上一篇博文,本博文主要介绍使用交叉验证进行多参数寻优时的参数搜索方法:网格搜索(Gr...原创 2018-11-28 11:27:47 · 5626 阅读 · 3 评论 -
【超参数寻优】交叉验证(Cross Validation)超参数寻优的python实现:单一参数寻优
【寻优算法】交叉验证(Cross Validation)参数寻优的python实现一、交叉验证的意义二、常用的交叉验证方法1、Hold one method2、K-flod CV3、Leave-One-Out CV(LOO-CV)二、交叉验证参数寻优的python实现1、训练模型和待寻优参数2、算法执行步骤3、交叉验证参数寻优的python实现4、参数C与评价指标的关系参考资料有关交叉验证的博文...原创 2018-11-27 20:30:03 · 10200 阅读 · 1 评论 -
【机器学习】隐马尔可夫模型及其三个基本问题(一)
【机器学习】隐马尔可夫模型及其三个基本问题(一)HMM模型1、HMM模型概述2、HMM的三个基本问题3、HMM问题实例参考资料隐马尔可夫模型(Hidden Markov Model,HMM)是一种重要的有向图模型,使用隐马尔可夫模型的问题一般需要两个特征( 参考资料1):(1)问题是基于时间序列或状态序列的。(2)问题中有两种数据,一种是观测序列,即我们能够观测到的序列;一种是状态序列,即隐藏的...原创 2019-03-11 22:48:00 · 2166 阅读 · 0 评论 -
【机器学习】隐马尔可夫模型及其三个基本问题(二)观测序列概率计算算法及python实现
【机器学习】隐马尔可夫模型及其三个基本问题(二)观测序列概率计算算法及python实现一、前向算法二、后向算法三、一些概率与期望的计算四、前向-后向算法的python实现参考资料隐马尔可夫(HMM)模型的第一个基本问题是评估观测序列概率:给定模型λ=[A,B,∏]\lambda = \left[ {A,B,\prod } \right]λ=[A,B,∏]和观测序列X={x1,x2,⋯&...原创 2019-03-31 15:12:58 · 1294 阅读 · 0 评论 -
【机器学习】隐马尔可夫模型及其三个基本问题(三)模型参数学习算法及python实现
【机器学习】隐马尔可夫模型及其三个基本问题(三)模型参数学习算法及python实现一、非监督学习方法(Baum-Welch算法)1.1、EM算法介绍1.2、Baum-Welch算法二、python实现隐马尔可夫模型参数学习是根据观测序列X={x1,x2,⋯ ,xn}X = \left\{ {{x_1},{x_2}, \cdots ,{x_n}} \right\}X={...原创 2019-04-01 17:20:43 · 1072 阅读 · 0 评论 -
【机器学习】隐马尔可夫模型及其三个基本问题(四)状态序列预测算法及python实现
【机器学习】隐马尔可夫模型及其三个基本问题(四)状态序列预测算法及python实现一、维特比算法二、python实现参考资料隐马尔可夫模型状态序列预测问题是指给定模型λ=[A,B,∏]\lambda = \left[ {A,B,\prod } \right]λ=[A,B,∏]和观测序列X={x1,x2,⋯ ,xn}X = \left\{ {{x_1},{x_2}, ...原创 2019-05-30 21:55:49 · 2007 阅读 · 0 评论 -
【语音识别】语音端点检测及Python实现
【语音识别】语音端点检测及Python实现一、语音信号的分帧处理二、端点检测方法2.1、短时能量2.2、短时过零率三、Python实现从接收的语音信号中准确检测出人声开始和结束的端点是进行语音识别的前提。本博文介绍基于短时过零率和短时能量的基本语音端点检测方法及Python实现。如图所示为语音信号,红色方框内为人声:一、语音信号的分帧处理语音信号是时序信号,其具有长时随机性和短时平稳性。长...原创 2019-06-06 19:02:47 · 10471 阅读 · 7 评论 -
【机器学习】Softmax Regression算法原理与java实现
【机器学习】Softmax Regression算法原理与java实现1、Softmax Regression算法原理1.1、样本概率1.2、损失函数1.3、梯度下降法训练模型2、java实现参考资料Logistic Regression算法是线性二分类算法,Softmax Regression算法是Logistic Regression算法在多分类问题上的推广,其中任意两个类别的样本是线性可分...原创 2019-01-15 10:47:45 · 1474 阅读 · 0 评论 -
【机器学习】Logistic Regression逻辑回归原理与java实现
【机器学习】Logistic Regression逻辑回归原理与java实现1、基于概率的机器学习算法2、逻辑回归算法原理2.1、分离超平面2.2、阈值函数2.3、样本概率2.4、损失函数3、基于梯度下降法的模型训练4、java实现1、基于概率的机器学习算法机器学习算法可以分为基于概率、基于距离、基于树和基于神经网络四类。基于概率的机器学习算法本质上是计算每个样本属于对应类别的概率,然后利用极...原创 2019-01-13 23:38:47 · 3597 阅读 · 6 评论 -
【深度学习】生成对抗网络(GAN)的tensorflow实现
【深度学习】生成对抗网络GAN的tensorflow实现一、GAN原理二、GAN的应用三、GAN的tensorflow实现参考资料GAN(Generative Adversarial Nets)是Goodfellow I. J.大神在2014年提出的(参考资料【1】),在近几年成为人工智能领域研究的热点。本博文讲解最简单的生成对抗网络GAN原理并实现一个简单化GAN的tensorflow代码,可...原创 2018-12-25 13:00:43 · 4928 阅读 · 1 评论 -
【机器学习】Weighted LSSVM原理与Python实现:LSSVM的稀疏化改进
【机器学习】Weighted LSSVM:LSSVM的稀疏化改进一、LSSVM的缺点二、WLSSVM的数学原理新的改变三、WLSSVM的python实现新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数...原创 2018-11-24 15:57:37 · 7911 阅读 · 9 评论 -
【机器学习】RBF神经网络原理与Python实现
【机器学习】RBF神经网络原理与Python实现一、LSSVM数学原理1. 感知机2. SVM3. LSSVM4. LSSVM与SVM的区别二、LSSVM的python实现参考资料一、LSSVM数学原理1. 感知机SVM是从感知机发展而来。假设有m个训练样本{(xi,yi)}i=1m\left\{ {\left. {\left( {{x_i},{y_i}} \right)} \right\}...原创 2018-11-24 19:51:20 · 37828 阅读 · 37 评论 -
【超参数寻优】遗传算法(GA) 超参数寻优的python实现
【寻优算法】遗传算法(Genetic Algorithm) 参数寻优的python实现:多参数寻优一、遗传算法简介1、遗传算法由来2、遗传算法名词概念3、遗传算法中对染色体的操作3.1、选择3.2、交叉3.3、变异二、遗传算法多参数寻优思路三、遗传算法多参数寻优的python实现参考资料本博文首先简单介绍遗传算法(GA)的基础知识,然后以为例给出遗传算法多参数寻优的python实现。一、遗传算...原创 2018-11-30 10:25:24 · 27909 阅读 · 12 评论 -
【超参数寻优】量子粒子群算法(QPSO) 超参数寻优的python实现
【寻优算法】量子粒子群算法(QPSO) 参数寻优的python实现一、粒子群算法的缺点二、量子粒子群算法三、QPSO算法的python实现参考资料一、粒子群算法的缺点本人之前的博文(参考资料【1】)已经详细介绍了PSO算法,学习本博文前需要先学习PSO算法。PSO算法的缺点:1、需要设定的参数(惯性因子www,局部学习因子c1{c_1}c1和全局学习因子c2{c_2}c2)太多,不利于...原创 2018-12-03 13:30:22 · 26557 阅读 · 25 评论 -
【机器学习】概率神经网络(PNN)的python实现
【机器学习】概率神经网络(PNN)的python实现一、概率神经网络原理1.1、贝叶斯决策1.2、PNN的网络结构二、概率神经网路的优点与不足2.1、优点(参考资料【1】)2.2、缺点三、PNN的python实现参考资料一、概率神经网络原理概率神经网络(Probabilistic Neural Network)的网络结构类似于RBF神经网络,但不同的是,PNN是一个前向传播的网络,不需要反向传...原创 2018-12-12 16:32:23 · 21636 阅读 · 11 评论 -
【机器学习】广义回归神经网络(GRNN)的python实现
【机器学习】广义回归神经网络(GRNN)的python实现一、广义回归神经网络原理1.1、GRNN与PNN的关系2.2、GRNN的网络结构二、广义回归神经网络的优点与不足2.1、优点2.2、不足三、GRNN的python实现参考资料一、广义回归神经网络原理1.1、GRNN与PNN的关系广义回归神经网络(Generalized Regression Neural Network)的网络结构类似...原创 2018-12-12 21:29:34 · 38075 阅读 · 25 评论 -
【机器学习】基于AutoEncoder的BP神经网络的tensorflow实现
【机器学习】基于AutoEncoder的BP神经网络的tensorflow实现一、基于AutoEncoder的BP神经网络1.1、BP神经网络1.1.1、BP神经网络结构1.1.2、BP神经网络的训练1.2、AutoEncoder(自编码器)二、基于AutoEncoder的BP神经网络的tensorflow实现参考资料一、基于AutoEncoder的BP神经网络1.1、BP神经网络1.1.1...原创 2018-12-14 10:38:22 · 1670 阅读 · 3 评论 -
【机器学习】径向基(RBF)神经网络的tensorflow实现
【机器学习】RBF神经网络的tensorflow实现一、tensorflow简介1、基础概念1.1计算图1.2 Session会话2、应用流程二、RBF神经网络的tensorflow实现参考资料一、tensorflow简介1、基础概念1.1计算图Tensorflow是一个基于计算图(数据流图)的的数值计算系统,计算图是一个有向图,图中的节点代表数学计算操作的算子(函数),节点之间连接的边代...原创 2018-12-10 13:55:51 · 10761 阅读 · 23 评论 -
【机器学习】基于GBDT的数据回归及python实现
【机器学习】基于GBDT的数据回归及python实现1.Boosting技术2.GBDT原理与应用2.1 GBDT原理2.2 基于GBDT的数据回归2.3 基于GBDT的数据分类3.基于GBDT的数据回归的python实现参考资料本博文中GBDT(Gradient Boosting Decison Tree,梯度提升决策树)的决策树采用CART(Classification and Regres...原创 2018-12-16 15:31:40 · 5623 阅读 · 4 评论 -
【深度学习】循环神经网络(RNN)的tensorflow实现
【深度学习】循环神经网络(RNN)的tensorflow实现一、循环神经网络原理1.1、RNN的网络结构1.2、RNN的特点1.3、RNN的训练二、循环神经网络的tensorflow实现参考资料循环神经网络又被成为时间递归神经网络(Recurrent Neural Networks),传统神经网络,每一个时间步隐含层神经元之间没有连接。但RNN中每一个时间步的隐含层输入由当前时间步的输入和上一时...原创 2018-12-21 15:34:11 · 2852 阅读 · 1 评论 -
【机器学习】竞争神经网络(Competitive Neural Network)的python实现
【机器学习】竞争神经网络(Competitive Neural Network)的python实现一、竞争神经网络原理1.1、生物学原理1.2、网络结构与模型训练二、竞争神经网络的python实现参考资料我们前面介绍过基于机器学习的分类与回归,分类与回归都是监督学习。除此之外,机器学习还有一个广泛的应用是聚类,聚类算法是无监督的机器学习算法,数据样本只有特征而没有标签,我们需要根据样本的特征将具...原创 2018-12-17 19:25:16 · 3319 阅读 · 0 评论 -
【语音识别】之梅尔频率倒谱系数(mfcc)及Python实现
【语音识别】之梅尔频率倒谱系数(mfcc)及Python实现一、mel滤波器二、mfcc特征Python实现语音识别系统的第一步是进行特征提取,mfcc是描述短时功率谱包络的一种特征,在语音识别系统中被广泛应用。一、mel滤波器每一段语音信号被分为多帧,每帧信号都对应一个频谱(通过FFT变换实现),频谱表示频率与信号能量之间的关系。mel滤波器是指多个带通滤波器,在mel频率中带通滤波器的通...原创 2019-06-06 21:12:26 · 4981 阅读 · 5 评论