我对各种机器学习算法的理解（一句话）

最新推荐文章于 2024-01-08 01:25:00 发布

原创最新推荐文章于 2024-01-08 01:25:00 发布 · 605 阅读

0 ·

CC 4.0 BY-SA版权

机器学习专栏收录该内容

7 篇文章

订阅专栏

本文深入探讨了EM算法和AdaBoost算法的核心原理。EM算法通过引入隐变量，利用KL散度非负特性，逐步优化似然函数实现局部最优。AdaBoost算法则通过调整分类器权重和实例权重，提升整体模型的预测准确性。

EM算法

通过概率变换（添加隐变量），使得似然函数分解为Lowerbound+KL divergence的方式，利用KL>=0，令KL=0然后最大化lowerbound.通过不断扩大lowerbound来优化似然函数达到局部最优。

AdaBoost

两种权值设置，一种是通过error_rate确定的分类器的权值（随error_rate减少而增大），一种是由于犯错不断更新的instance的权重。下界：todo

GDBT

分列时info gain 数值上 = 互信息（信道容量），可以将分裂选择看做多个信道，选择容量最大的信道，这样在保证可区分能力的情况下减少了feature的数量

信息论

Dkl散度>0

Jenson‘s inequality -> 对数求和不等式 -> Dkl>0

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

北逸

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

初步了解机器学习算法

guoyafeng11的博客

11-04

268

机器学习 一、机器学习的概念及定义 机器学习(Machine Learning, ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演绎。 ...

【大道至简】机器学习算法之EM算法(Expectation Maximization Algorithm)详解(附代码)---通俗理解EM算法。

尚拙的博客

10-25

2万+

通过上面的分析，我们终于可以总结一下EM算法啦！总的来说，EM算法分为E步和M步：（1）给参数θ即第0步赋初值；（2）如果是第一轮迭代，那么令θ=来计算Q函数；如果是>1轮迭代，则θ的值由上一次M步计算出的θ值决定。由于E步时θ已知，所以只需要计算Q，公式如下：也就是给定θ和已知的观测数据x的条件下，求一下隐变量z的条件概率。（3）根据E步计算出来的Q，按如下公式计算θ：也就是固定Q（z也固定）和已知的观测数据x，算一下θ。（4）重复（3）和（4）直至收敛。

参与评论您还未登录，请先登录后发表或查看评论

用一句话总结各种机器学习算法

06-26

浓缩就是精华。想要把书写厚很容易，想要写薄却非常难。现在已经有这么多经典的机器学习算法，如果能抓住它们的核心本质，无论是对于理解还是对于记忆都有很大的帮助，还能让你更可能通过面试。在本文中，SIGAI将用一句话来总结每种典型的机器学习算法，帮你抓住问题的本质，强化理解和记忆。下面我们就开始了。

用一句话总结常用的机器学习算法

SIGAI_优快云的博客

06-14

3963

原创声明：本文为 SIGAI 原创文章，仅供个人学习使用，未经允许，不得转载，不能用于商业目的。文章同步更新到微信公众号：SIGAICN，欢迎搜索关注获取更多干货。其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。书的购买链接书的勘误，优化，源代码资源导言浓缩就是精华。想要把书写...

机器学习 之一句话解释关键概念

Hisense的专栏

07-03

2259

在机器学习中，很多算法是很复杂的，很难容易的形象的解释，但是也有很多是算法复杂，但是理解起来简单。本文试图把学过的一些知识逐步有系统的用一二句话给小白解释清楚，一二句话解释不清楚的，也不勉强，我会给出高手文章的链接或者我自己日记的链接，希望这个页面作为自己的一个系统化的备忘，以及小白的简单入门。另外，这个页面是逐步更新的。 机器学习基础先行知识凸优化c

深入理解机器学习算法

最新发布

AI天才研究院

01-08

1042

1.背景介绍 机器学习(Machine Learning)是一种人工智能(Artificial Intelligence)的子领域，它旨在让计算机自动学习和提高其表现，而无需人工干预。机器学习算法通常被分为两类：监督学习(Supervised Learning)和无监督学习(Unsupervised Learning)。监督学习需要预先标记的数据集，而无监督学习则没有这个要求。 机器学习算法的...

【机器学习算法】线性回归算法

ZhShy

01-28

1万+

文章目录线性回归回归问题回归和分类预测未来机器学习实现预测的流程线性方程权值调整最简单的回归问题——线性回归问题利用线性回归进行预测的极速入门线性回归的算法原理拟合线性回归算法的数学解析1. 假设函数的数学表达式解析线性回归回归问题线性方程偏差度量权值更新回归问题两百年前，与达尔文同时代的统计学家高尔顿在研究父代与子代的身高关系时，发现一种“趋中效应”：如果父代身高高于平均值，则子代具有更高概率比他父亲要矮，简单来说就是身高回归平均值。“回归”一词也由此而来。在回归的世界里，万物的发展轨

【机器学习-分类】一句话+一张图说清楚朴素贝叶斯算法（附案例+代码）

土豆洋芋山药蛋的博客

02-13

7532

说在前面同一个算法本身存在各种不同的变体，即各种改进版本。一句话+一张图并不能涵盖所有情况，只是尽量用通俗的语言介绍其中经典的算法版本。希望对某算法本身不了解的人看完能迅速get到该算法在干什么；二刷该算法的人能够迅速回忆起算法核心思想和做法，做到能随口讲给别人听。往期回顾【机器学习-分类】一句话+一张图说清楚kNN算法（附案例+代码）【机器学习-分类】一句话+一张图说清楚决策树算...

【机器学习算法】手动Python实现KNN分类算法，并用iris数据集检验模型效果

12-22

KNN是机器学习十大算法之一，因为原理很好理解，有一句话：“Talk is cheap.Show me the code.” 所以用Python来实现一下吧，并在iris数据集上检验模型效果。算法原理：看新样本与最接近的那个训练集样本属于哪一类

机器学习算法汇总与个人理解

Curry_xin的博客

07-23

641

一直断断续续的学习机器学习的算法，现在希望将已经学习到的机器学习的算法做一个总结，将来有需要的时候可以直接回来查看。一、K最近邻（kNN） KNN一般被认为是最简单的机器学习算法，它是指如果一个样本在特征空间中的k个最相似（即特征空间中最邻近）的样本中的大多数属于某一个类别，则该样本也属于这个类别。比如上图中这幅图，如果k=3，则绿色的圆圈属于三角类，因为三角的个数(2)大于方块的个数(1)，如果k=5，则绿色的圆圈属于方块。该算法在分类时有个主要的不足是，当样本不平衡时，如一个类的样本容量很大，而

英文连词成句练习用的flashCS3文件

08-21

英文连词成句练习用的flashCS3文件，会flash的，直接在代码中把需练习的句子输入进去，就可以生成swf文件了，可以用于连词成句的批量制作。

spark大数据实训6.1-机器学习

qq_40204208的博客

06-02

416

什么是机器学习？ https://baijiahao.baidu.com/s?id=1611310218866673066&wfr=spider&for=pc https://baijiahao.baidu.com/s?id=1625779316467866513&wfr=spider&for=pc https://blog.youkuaiyun.com/qq_2816842...

机器学习感悟1--机器学习简要概括

jmbigsea的博客

03-28

734

机器学习的分类以及每种分类处理的问题： 1监督学习的定义与其处理的问题输入数据要求有自变量和因变量，加入模型训练需要用到数据中的因变量（结果），那么可以说这个是监督学习，这可能是个比较粗浅的定义，但是还是合适的。那么监督学习能处理哪些问题呢？例如回归问题、分类问题 2非监督学习的定义与其处理的问题输入数据并不存在因变量（结果），只有特征，需要从数据中依据数据的某些特征的相似性来

21句话简述机器学习

热门推荐

数据知道的博客

10-18

3万+

1.机器学习有四种用途：分类、聚类、回归和降维。监督学习：分类和回归无监督学习：聚类和降维更严格一点，机器学习的目的只有三个：分类、聚类和回归，降维不过是达成目标的手段之一。 2.分类和聚类都是对个体样本归类，看起来很相似，实则相去甚远——前者属于有监督的学习，后者属于无监督的学习。分类是基于经验的，而经验来自过往的数据，这意味着分类需要训练；聚类则是基于当前全部样本的特征，不依赖经验，自然也就无需训练。举个例子：让你从一堆水果中挑出苹果、橘子和香蕉，这是分类；让你将画在纸上的若干个图案分组，分组规

如何给普通人解释机器学习是什么

专注于后端开发，时常接触大数据、人工智能等

10-31

335

数据挖掘只是机器学习中涉猎的领域之一，机器学习还有模式识别、计算机视觉、语音识别、统计学习以及自然语言处理等，而在目前机器学习中，深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。这里也抛砖引玉说一点自己所通俗易懂了解的一些机器学习的知识，相对机器学习有一个入门或者更深入的认识可以在网上找一些公开看，...

机器学习笔记（一）

wgx的博客

04-20

1507

李宏毅2021机器学习笔记（一）什么是机器学习 机器学习概括来说可以用一句话来描述机器学习这件事，机器学习就是让机器具备找一个函式的能力。具体的说，机器学习就是找到一个复杂的函数，将我们输入的东西输出期待的值。可以是输入图片，输出图片中的信息，也可以是语音输入，输出文字。机器学习就是寻找建立在输入和输出之间的函数。 机器学习的三大任务 Regression Regression的意思是说,假设我们今天要找的函式,他的输出是一个数值,他的输出是一个scalar,那这样子的机器学习的任务,我们称之为Re

什么是机器学习？

qq_34993631的博客

01-26

7302

一句话说明机器学习（MachineLearning）简单的一句话：让机器从数据中学习，进而得到一个更加符合现实规律的模型，通过对模型的使用使得机器比以往表现的更好，这就是机器学习。详解：数据：从现实生活抽象出来的一些事物或者规律的特征进行数字化得到。学习：在数据的基础上让机器重复执行一套特定的步骤（学习算法）进行事物特征的萃取，得到一个更加逼近于现实的描述（这个描述是一个模型它

统计学习要素：机器学习算法与LAR回归解析

对于想要深入理解和应用机器学习算法的读者来说，这本书提供了丰富的理论基础和实践经验。书中还讨论了如何在实际问题中应用这些统计学习工具，以及如何评估和比较不同的模型。此外，它还涉及了交叉验证、偏差-...