自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(37)
  • 问答 (1)
  • 收藏
  • 关注

原创 1、深度学习符号定义

本文介绍了本专栏的符号定义,常见的优化算法等

2023-11-27 20:37:22 1352

原创 30、潜在狄利克雷分配

本文介绍了潜在狄利克雷分配(LDA),首先介绍了狄利克雷分布和共轭先验的定义,然后介绍了潜在狄利克雷分配模型,最后介绍了LDA的吉布斯抽样算法和LDA 的变分 EM 算法。

2023-11-27 12:30:29 1237

原创 29、马尔可夫链蒙特卡罗法

本文介绍了马尔可夫链蒙特卡罗法,首先介绍了蒙特卡罗法、马尔可夫链的概念,然后进行介绍马尔可夫链蒙特卡罗法,最后介绍了两种常用的马尔可夫链蒙特卡罗法(Metropolis-Hastings算法、吉布斯抽样)

2023-11-27 12:30:10 2169

原创 28、概率潜在语义分析

本文介绍了概率潜在语义分析,详细介绍了概率潜在语义分析模型(生成模型、共现模型、模型性质),最后介绍了概率潜在语义分析算法

2023-11-27 12:29:22 1140

原创 27、潜在语义分析(LSA)

本文介绍了潜在语义分析(LSA),详细介绍了单词向量空间和话题向量空间,潜在语义分析算法,以及非负矩阵分解算法,最后介绍了sklearn中的潜在语义分析的使用。

2023-11-27 12:29:03 2087

原创 26、条件随机场(CRF)下

本文介绍了条件随机场的概率计算、条件随机场的学习算法、条件随机场的的预测算法。

2023-11-27 12:27:54 1254

原创 25、条件随机场(CRF)上

本文介绍了条件随机场(CRF),首先介绍了概率无向图模型的相关定义,然后分别介绍了条件随机场的定义和三种表示形式。

2023-11-27 12:27:32 831

原创 24、隐马尔可夫模型(HMM)下

本文介绍了HMM的学习算法和预测算法,并python实现了HMM过程

2023-11-27 12:27:14 1383

原创 23、隐马尔可夫模型(HMM)上

本文介绍了隐马尔可夫模型的基本概念,详细介绍了模型的定义、基本假设、观测序列的生成过程、三个基本问题,并进行详细介绍了概率计算(包括前向计算、后向计算、以及利用前后向算法计算某些概率与期望值)

2023-11-27 12:17:56 950

原创 22、EM算法及其推广

本文介绍了EM算法及其推广,首先介绍了Jensen不等式,然后对EM算法进行详解,最后证明了EM算法的收敛性,并介绍了EM 算法在高斯混合模型学习中的应用和EM 算法的推广。

2023-11-27 12:16:03 952

原创 16、集成学习——LightGBM优化算法

本文对LightGBM进行了详细介绍。

2023-11-27 12:07:05 1496 1

原创 21、最大熵模型

本文介绍了最大熵模型,首先介绍了最大熵模型的定义、模型的学习、极大似然估计、以及模型学习的最优化算法

2023-11-26 13:29:21 876

原创 20、聚类算法——层次聚类

本文介绍了聚类算法中的层次聚类算法,首先介绍了层次聚类的流程,然后以一个案例详细介绍层次聚类,然后介绍了sklearn中的层次聚类用法,最后介绍了几种优化算法。

2023-11-26 13:28:50 3278 1

原创 19、聚类算法——密度聚类

本文主要介绍了聚类算法中的密度聚类,详细介绍了DBSCAN算法和密度最大值聚类算法(MDCA)

2023-11-24 14:18:39 1018

原创 18、聚类算法——K-means家族

本文介绍了聚类算法中的K-means家族,首先讲解了K-means算法流程,然后从直观理解到案例进行深入说明,并介绍了其在文本聚类中的应用,最后介绍了一些K-means衍生算法。

2023-11-24 14:18:14 1073

原创 17、聚类算法——聚类算法衡量指标

本文主要介绍了聚类算法的聚类质量评价方法

2023-11-23 19:54:50 1158

原创 15、集成学习——GBDT算法

本文介绍了GBDT算法的构成,然后分别详细介绍了回归树生成算法、梯度提升树、GBDT算法原理,最后以实例详解深入介绍GBDT算法。

2023-11-23 19:46:36 374

原创 14、集成学习——Adaboost算法

本文介绍了Adaboost算法,包括了分类算法流程、回归算法流程、sklearn中的Adaboost函数等

2023-11-23 19:38:05 988

原创 13、集成学习——随机森林

本文介绍了随机森林步骤、树的生成规则、优缺点、sklearn中随机森林等

2023-11-23 19:14:34 1045

原创 12、集成学习——集成学习概述

本文介绍了集成学习概述、集成学习分类、集成学习模型简介

2023-11-23 19:09:03 1000

原创 11、K近邻算法(KNN)

本文首先介绍了KNN算法的直观理解、算法三大要素、优缺点,并说明了如何实现KNN算法,最后讲解了sklearn中的KNN使用。

2023-11-23 19:00:44 1035

原创 10、决策树算法

本文介绍了决策树算法,介绍了特征选择的指标(信息增益、信息增益比),决策树的生成(ID3算法、C4.5算法)以及决策树的剪枝过程,并介绍了CART算法,最后介绍了sklearn中的决策树用法。

2023-11-23 17:47:49 853

原创 9、朴素贝叶斯算法

本文介绍了朴素贝叶斯算法,首先讲解了贝叶斯公式,然后分别给出了朴素贝叶斯算法的定义和推导、极大似然估计、贝叶斯估计等,最后给出了四种sklearn中的朴素贝叶斯

2023-11-23 17:35:35 1120

原创 8、SVM实战——HOG+SVM行人检测

本文介绍了SVM经典实战——HOG+SVM行人检测项目,从视觉四大任务、HOG算法、HOG+SVM实现流程和图像画框四部分进行介绍。

2023-11-23 17:23:35 881

原创 7、SVM实战——SVM手写数字识别

从SVM手写数字识别实战项目了解SVM原理和使用

2023-11-23 17:08:02 1532

原创 6、支持向量机(SVM)下

本文介绍了SVM的求解方法SMO算法、SVM相关核函数、sklearn中的SVM等相关内容

2023-11-23 15:46:42 931

原创 5、支持向量机(SVM)上

本文介绍了SVM概述、SVM相关数学知识(梯度下降法、拉格朗日乘子法、对偶问题、KKT问题)、硬间隔SVM原理和求解、软间隔SVM原理和求解

2023-11-23 15:39:27 1052

原创 4、逻辑回归(LR)

本文逻辑回归,整理总结了逻辑回归原理、损失函数(损失函数推导、二分类交叉熵推导、sklearn中逻辑回归)、多分类的算法原理、优缺点等

2023-11-23 14:42:37 501

原创 3、线性回归模型

本文介绍了线性回归模型,包括了线性回归的基本形式、目的、模型计算,以及最小二乘法和梯度下降、正规方程解、优缺点等

2023-11-23 09:46:34 242

原创 2、机器学习概述

本文介绍了专栏文章的符号申明、机器学习的三要素与步骤、分类、监督学习的应用等

2023-11-23 09:24:01 69

原创 1、机器学习基础

本文总结归纳了机器学习基础,包括相关数学知识、数据预处理(数据查看、重复值观测、去除唯一性、缺失值处理、分类特征编码处理、连续特征编码处理、预测值对数处理、类别不平衡、数据降维、特征扩展)、过拟合欠拟合、模型选择方法、模型评估指标等内容

2023-11-22 16:54:40 597

原创 13、三大特征提取器RNN/CNN/Transformer的对比

RNN、CNN、Transformer的对比

2023-05-23 10:20:31 1727 1

原创 Transfomer

进一步了解transformer

2023-05-23 10:05:35 289 1

原创 5、循环神经网络(RNN )

最基本的单层网络,输入是x,经过变换Wx+b和激活函数f得到输出y。

2023-05-22 17:10:13 2667 1

原创 4、卷积神经网络(CNN)

主要针对DNN存在的参数数量膨胀问题,对于CNN,并不是所有的上下层神经元都能直接相连,而是通过“卷积核”作为中介(部分连接)。同一个卷积核在多有图像内是共享的,图像通过卷积操作仍能保留原先的位置关系。CNN之所以适合图像识别,正是因为CNN模型限制参数个数并挖掘局部结构的这个特点等。

2023-05-22 16:59:49 881 1

原创 3、深度神经网络(DNN)

​ 深度神经网络是基于上述MLP感知机的扩展,DNN可以理解为的神经网络。MLP可以视为DNN的前身,大致可以分为三层:输入层,隐藏层,输出层,MLP通常很浅,隐藏层就一二层。DNN一般隐藏层大于二,而且的种类更多。

2023-05-22 16:44:42 13446

原创 2、多层感知机(MLP)

符号定义x:表示一个nx​维数据,为输入输入,维度为nx​1;y:为输出结果,取值为(0,1);ximyi:表示第i组数据,可能是训练数据,也可能是测试数据,此处默认为训练数据;Xx1x2...xm:表示所有的训练数据集的输入值,放在一个nx​×m的矩阵中,其中m表示样本数据;Yy1y2...ym:对应表示所有训练数据集的输出值,维度为1×m;Mtrain​为训练样本个数,Mtest​为训练样本个数,x。

2023-05-22 16:37:36 6593

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除