统计学习方法三要素：模型、策略、算法

最新推荐文章于 2025-01-06 21:58:35 发布
原创 最新推荐文章于 2025-01-06 21:58:35 发布 · 4k 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#统计学习方法三要素 #模型 #策略 #算法

本文摘录了李航《统计学习方法》中的关键概念，包括统计学习方法的三要素——模型、策略和算法，并解释了机构风险的概念及其构成部分，即经验风险和惩罚项。文中提到，要降低结构风险，则需同时减少经验风险和模型复杂度。


在读李航的《统计学习方法》，记录一些读书笔记：

（一）总览

统计学习方法三要素：模型、策略、算法：


（二）一些细节

机构风险其实就是经验风险加上惩罚项：


定义如下：



等式右边第一项是经验风险，最后面一项就是惩罚项，其中J(f)为模型复杂度。

结论：

想要结构风险小，必须经验风险与模型复杂度同时小，其中J(f)为模型


这本书很经典，每天精度一点点。后续再写。

模型和策略：风控体系的“左右手”之争
阿黎逸阳的博客
09-21 206
风控系统中模型与策略的关系如同大脑与手脚，二者相辅相成。模型作为智能核心，通过机器学习算法分析数据、评估风险；策略则负责将模型输出转化为具体行动规则。二者缺一不可：模型为策略提供依据，策略让模型发挥价值。优秀的风控体系需要模型精准识别风险，策略制定合理应对方案，二者协同优化才能实现风险管控与业务发展的平衡。
《统计学习方法》学习笔记（1）—— 统计学习三要素
大羚羊的学习博客
06-18 1510
本文主要参考书籍为《统计学习方法》（李辉），第一章 统计学习方法概论。 目录 1.1 统计学习 1.3 统计学习三要素——模型、策略、算法 1.3.1 模型——所要学习的条件概率分布或决策函数 1.3.2 策略 1.3.2.1 损失函数（loss function）/ 代价函数（cost function） 1.3.2.2 风险函数（risk function）/ 期望损失（expe...
算法策略的总结
weixin_30882895的博客
05-22 380
策略是面向问题的，算法是面向实现的。 一、不同算法策略特点小结 1、贪心策略 贪心策略一方面是求解过程比较简单的算法，另一方面它又是对能适用问题的条件要求最严格（即适用范围很小）的算法。 贪心策略解决问题是按一定顺序，在只考虑当前局部信息的情况下，就做出一定的决策，最终得出问题的解。 即：通过局部最优决策能得到全局最优决策 2、递推策略 递推也是由当...
统计学习笔记——统计学习三要素
My Sunshine
07-25 4482
参考书：《统计学习方法》——李航 统计学习的三要素为：模型、策略、算法。 以下以监督学习为基础来进行论述。 一、模型 在监督学习当中，我们的目的是学习一个由输入到输出的映射，这个映射就是模型。一般来说，模型有两种形式，一种是概率模型（条件概率分布），另一种形式是非概率模型（决策函数）。我们根据实际情况和具体的学习方法来决定是用概率模型还是用非概率模型。 二、策略
统计学习模型——感知机模型
L_earning_的博客
03-18 600
感知机模型
统计学习方法概述（模型、策略、算法）
gyq423的博客
09-04 4487
主要内容（只考虑监督学习） （1）统计学习三要素概述 （2）策略（目标函数、代价函数、损失函数） ------------------------------------------------------------------------------------------------------------------------- 一、统计学习方法概述 统计学习三要素：方法 = ...
机器学习算法总结1:统计学习方法概论
01-07
统计学习三要素：模型(model)，策略(strategy)和算法(algorithm)。 1.模型 模型的假设空间包含所有可能的条件概率分布或决策函数； 2.策略 损失函数度量模型一次预测的好坏，风险函数度量平均意义下模型预测的好坏。...
统计学习方法学习笔记（一）统计学习方法的分类和简介，统计学习方法三要素（模型，策略和算法）
weixin_45178611的博客
08-21 1323
文章目录统计学习分类基本分类按模型进行分类按算法进行分类按技巧分类统计学习方法三要素实现统计学习方法的步骤如下：模型策略算法 统计学习分类 基本分类 监督学习 无监督学习 强化学习 有时还包括 半监督学习 主动学习。 ···························································································· 监督学习： 根据已有的数据集，知道输入和输出结果之间的关系。根据这种已知的关系，训练得到一个最优的模型。 通
机器学习基于统计模型与算法的数据驱动技术：监督学习分类回归及无监督聚类降维方法研究
最新发布
11-20
详细阐述了机器学习三要素（模型、策略、算法）、主要分类（监督、无监督、半监督、强化学习），并通过建模流程引出特征工程的关键环节，包括特征选择、转换、构造与降维。深入讲解了模型评估中的损失函数、过拟合与...
【简博士统计学习方法】第1章：3. 统计学习方法的三要素
随手写写
01-06 1276
大数定律是概率论中的一个重要定理，描述了在大量独立、同分布的随机试验中，随着试验次数的增加，样本均值会趋近于期望值。这就像是抛硬币实验，当抛掷次数很少时，正面和反面的比例可能会偏离 50%，但随着投掷次数的增加，正面和反面的比例会趋近于 50%。关于监督学习的策略，追根究底就是选取一个目标函数，或者是经验风险，或者是结构风险，通过优化这个目标函数，达到一个学习模型的目的。时，经验损失趋近于风险函数。一般是有限的，有的时候甚至会很小，所以仅仅用经验风险来估计风险函数效果并不理想，所以需要对其进行一定的矫正。
【机器学习】—何为统计学习方法三要素？
天阑之蓝的博客
08-29 738
阅读之前看这里????：博主是正在进行数据分析师求职的一员，博客记录的是在学习和求职过程中一些总结，也希望和大家一起进步，在记录之时，未免存在很多疏漏和不全，如有问题，还请私聊博主指正。 博客地址：天阑之蓝的博客，学习过程中不免有困难和迷茫，希望大家都能在这学习的过程中肯定自己，超越自己，最终创造自己。 何为统计学习方法三要素？01 模型02 策略03 算法 在李航《统计学习方法中》提到了统计学习方法的三要素为：模型，策略和算法。，那么何为这三要素呢，接下来我们一起来探索吧。 书中对统计学习方法的概括如下
统计学习三要素——模型、策略、算法
拾春华 让思绪飞扬
08-25 758
模型 假设空间适合当前问题和数据集函数关系。简单来说就是使用什么映射函数（X和Y之间的关系F，以及参数） 策略 设定目标函数，最优化的方向。往往是损失函数和风险函数的组合。 算法 如何获取最优化的解。本质上就是计算机算法，怎么去求数学问题的最优化解。正规方程还是梯度下降等等。
【Trevor Hastie】【2017.01】统计学习的要素：数据挖掘、推理和预测（第二版）
weixin_42825609的博客
03-27 705
本书主要内容包括： 引言 有监督学习概述 回归问题的线性方法 分类问题的线性方法 基展开与正则化 核平滑的方法 模型评估与选择 模型推理与平均 加性模型、树与相关方法 Boosting与加性树 神经网络 支持向量机与灵活判别法 原型方法与最近领域 无监督学习 随机森林 集合学习 无向图模型 高维问题 英文完整版下载地址...
统计学习三要素------《统计学习方法》读书笔记
fxlou的博客
02-04 590
名词解释 1. 输入空间：所有输入可能取值的集合，{X" role="presentation">XXX}； 2. 输出空间：所有输出可能取值的集合，{Y" role="presentation">YYY}； 3. 假设空间：由输入空间到输出空间的所有可能的映射的集合，       可以为决策函数的集合：F={f|Y=f(x)}" role="presentation">F={f|Y=f(
统计学习三要素
none
04-09 4448
统计学习三要素   李航博士在《统计学习方法》一书中这样描述统计学习方法的构成：          方法=模型+策略+算法 本人更形象地借助产品经理的视角可以类比这样的：          方法=设想+指标+方案 下面就具体学习这三个要素（三要素是宏观上处理问题的一种框架）：   模型        统计学习首先要考虑的问题是学习什么样的模型。以监督学习为例，模型就是说要学习的条
机器学习三要素：模型、策略和算法
Baby_bye的博客
08-15 2694
机器学习在干嘛？就是利用已有数据，找到一些合适的数学模型去描述它，然后做一些预测分析，从而优化企业的流程或者提高决策效率。机器学习的核心是：模型、策略和算法 机器学习的目的——模型（Model） 模型就是用来描述客观世界的数学模型，模型是从数据里抽象出来的。在进行数据分析时，我们通常手上只有数据，然后看数据找规律，找到的规律就是模型。就跟我们小时候做猜数字游戏似的，1，4，16...（）......
算法策略
我跌跌撞撞奔向你
08-26 956
分治算法 分治算法的基本思想是将一个规模为N的问题分解为规模为K的子问题，这些子问题相互独立且与原问题性质相同。 2. 贪心算法 总是做出对当前来说最好的选择，但不一定是最好的选择 3. 动态规划算法 动态规划与贪心法和分治法类似，但贪心算法依赖于已经做出的选择，但不依赖与即将做出的选择，而分治法的各个子问题是独立的，一旦求出各问题的解后，便可自下而上求出所有问题的解；当前选择要依赖子问题的解时，很难通过贪心算法求解，如果各问题不是独立的，则分治法需要做很多重复的工作。动态规划算法主要应用于找最优化问题。.
统计学习三要素的思考
Bing's Blog
12-01 973
统计学习三要素的思考@(Machine Learning)三要素 模型 策略 算法 三要素组成一个公式方法 = 模型 + 策略 + 算法模型监督学习里，模型就是待学习的条件概率分布或决策函数。其中，条件概率分布：P̂ (Y|X) \hat P(Y|X) 表示在已知输入数据的条件下，输出为Y的概率。将其表示为函数，就是Y=f̂ (X)Y = \hat f(X)。 二者均表示输入与输出随机变量之间的映
方法=模型+策略+算法
Tiko的博客
05-16 1196
文章目录机器学习三要素1.模型：假设空间，hθ(x)h_{\theta}(x)hθ​(x)2.策略：模型选择的准则，jθj_{\theta}jθ​或J(Θ)J(\Theta)J(Θ)3.算法：求解参数的方法，解析法或迭代法 机器学习三要素 1.模型：假设空间，hθ(x)h_{\theta}(x)hθ​(x) 多元 线性模型或非线性模型 约定1：hhh表示某个模型，xxx表示某一个样本（含mmm个属性），θ\thetaθ表示模型hhh中的参数。 记：hθ(x)h_{\theta}(x)hθ​(x)表示一
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值