统计学习方法概论---(1)

《统计学习方法第二版》学习笔记1——概论 第1章 统计学习及监督学习概率论 目录第1章 统计学习及监督学习概率论前言1 理论部分1.1 统计学习1.2 统计学习的分类1.3 统计学习方法三要素1.4 模型评估与模型选择1.5 正则化与交叉验证1.6 泛化能力1.7 生成模型与判别模型1.8 监督学习应用 前言 本文主要参考资料: 《统计学习方法》第二版 李航 《统计学习方法》第二版PPT 袁春 这次学习笔记主要记录《统计学习方法》的一些重要知识点及其拓展、相关代码实现和一些思考,起因是我们可爱美丽的V同学发动的组队学习打卡活动。本人并非计 阅读详情

最近在看李航的统计学方法这本书。之前第一次看得时候,看到公式以及叙述感觉很枯燥,随便翻了几页就搁置了。但前天(2017/09/16)又拿起这本书,首先是自己竟然能静下心看得进去,并且能理解,也能联想到吴恩达讲的机器学习内容。之前随手把笔记写在本子上,有一些不足就是易丢失,出门翻阅不方便,所以在八哥(八哥的博客,可以多来转转)的建议下,重新拾起优快云。慢慢把读书心得以及个人认为很有必要的知识点逐一记录整理。今天就先从统计学方法最基本的概念入手,先有整体认识。其他的知识点,后续整理。

1.统计学习概念:

统计学习是计算机基于数据结构 构建概率统计模型,并运用模型对数据进行预测与分析的一门学科。(李航《统计学方法》)
也即是统计机器学习。

2.统计学习主要特点

  1. 以计算机网络为平台
  2. 以数据为对象
  3. 目的:对数据进行分析和预测
  4. 以方法为中心,构建模型且用模型进行预测和分析。
  5. 概率论,统计学,信息论,计算机理论多领域交叉学科。

3 .研究对象:数据。提取数据特征,抽象数据模型,学习数据中的知识,又运用模型到数据分析和预测。

4.目的:对数据进行分析和预测。尤其是对未知新数据进行分析和预测。
统计学习总的目的:学习何种模型,如何学习模型。在提高分析和预测准确率的前提下,尽可能提高学习效率。

5.有监督学习,非监督学习,半监督学习,强化学习等组成。

统计学习方法 主要讨论监督学习。
在此前提下,可简单概括为:从已经给定,有限的,用于学习的training set 出发,假设数据独立同分布,由一个评价准则从假设空间选取一个最优模型,并用来对training set 和未知数据,在评价准则下,给出最优预测。

6.统计学习方法三要素
1. 模型:假设空间
2. 策略:确定模型选择准则
3. 算法:求解最优模型

7.实现统计学方法步骤:
(1). 给定一有限的训练集training set
(2). 确定假设空间,也就是学习模型的集合
(3). 确定模型选择准则
(4). 实现求解最优模型
(5). 运用最优模型,对未知数据进行预测or分析。

参考文献:
李航《统计学习方法》

9.9元ESP32-C3开发板实战:手把手教你用VSCode搭建RT-Thread最小系统(附避坑指南) 本文提供了一份详尽的实战指南,教你如何在售价仅9.9元的ESP32-C3开发板上,使用VSCode搭建RT-Thread最小系统。内容涵盖从ESP-IDF环境配置、BSP源码获取、内核补丁应用到编译下载与调试的全流程,并重点分享了版本选择、补丁应用等关键避坑技巧,旨在帮助开发者低成本、高效地启动嵌入式实时操作系统开发。 阅读详情

相关推荐

不写代码,Cursor 10分钟开发1个APP!保姆级教程喂饭来了

做出第一个能运行的app,那种成就感真的很棒。虽然过程可能有点折腾,但只要耐心一点,问题都能解决。记住,遇到问题不要慌,现在有AI帮忙,大部分问题都能快速解决。重要的是迈出第一步,开始动手实践。你的第一个app可能很简单,但这是一个很好的开始。随着经验积累,你能做出的东西会越来越酷。现在就开始行动吧,说不定下个月你就能向朋友炫耀你自己做的app了!

chenhong007的博客 1552

【统计学习方法】1、统计学习方法概论

第一章 统计学习方法概论 1.1 统计学习 1.2 监督学习 1.2.1 基本概念 1.3 统计学习三要素 1.3.1 模型 1.3.2 策略 1.4 模型评估与模型选择 1.4.1 训练误差和预测误差 1.4.2 过拟合与模型选择 1.5 正则化与交叉验证 1.5.1 正则化 1.5.2 交叉验证 1.6 泛化能力 1.6.1 泛化误差 1.6.2 泛化误差上界 1.7...

呆呆的猫的博客 1935

宇树G1嵌入式软件架构及技术实现

该架构通过硬件加速(FPGA)+确定性调度(RTX5)的组合,在1ms控制周期内完成从传感器采集到43轴输出的全链路处理,相比波士顿动力系统缩短40%的着地稳定时间。,结合ARM Cortex-R5与FPGA的异构计算能力,实现43自由度1kHz实时控制。

m0_60674045的博客 4311

第1章 统计学习方法概论

第1章 统计学习方法概论 1.1 统计学习(统计机器学习) 1.2 监督学习 1.3 统计学习三要素 1.4 模型评估与模型选择 1.5 正则化与交叉验证 1.6 泛化能力 1.7 生成模型与判别模型 1.8 分类问题 1.9 标注问题 1.10 回归问题 参考文献: [1] 李航. 统计学习方法[M]. 清华大学出版社, 2012...

wk的博客 232

YOLO26 无损剪枝:稀疏训练 + 结构化通道裁剪

YOLO26 无损剪枝链路:YOLO26s (7.2M) → 稀疏训练 30 epoch (L1 on BN gamma, lam=0.01) → 阈值剪枝 50% (gamma<quantile(0.5)) → 结构化重建 Conv+BN → 微调 10 epoch (lr=1e-4) → YOLO26n (1.9M, mAP50 0.808, 仅降 0.6%)。核心贡献:稀疏训练让 BN gamma 趋向二元分布 (近 0 或近 1), 剪枝阈值可直接取 median 自动 50% 压缩。

m0_64661770的博客 264

【雕爷学编程】Arduino智慧农业之温湿度数据上传到云平台

它们可能有错误、不适用或者无法编译。在实施过程中,需要注意传感器的选择和校准、通信和网络稳定性、数据隐私和安全保护、电源管理以及数据分析和决策支持等方面的事项。数据分析和决策支持:上传到云平台的温湿度数据可以提供丰富的信息,但需要合适的数据分析和决策支持工具来帮助农业业主理解和利用这些数据。您可以根据自己的需求和喜好选择适合您的云平台和库,并根据您的具体硬件配置进行适当的修改和调整。将温湿度数据上传到云平台,农业业主可以实时监测粮库内的温湿度情况,及时采取通风、除湿等措施,确保粮食质量和长期储存的稳定性。

雕爷学编程 1275

第1章 统计学习方法概论

1.什么是统计学习 OR 统计机器学习 OR 机器学习?         =计算机基于数据构建概率统计模型,并运用模型对数据进行预测与分析(统计学习的目的)。         统计学习就是计算机系统通过运用数据及统计方法提高系统性能的机器学习。 2.统计学习的对象:统计学习的对象是数据。它熊数据出发,提取数据的特征;抽象出数据的模型,发现数据中的知识;又回到数据的分析与预测中去。 3.统计...

Foveres 357

两组相机(或三维点)对齐方法介绍及实现代码(求解相似变换,包含旋转R、平移t、尺度s)

  这个变换用于将生成的稀疏重建场景对齐到真值上。由于SfM(Structure from Motion,运动恢复结构)求解的结果是尺度未定的,所以重建场景与真值之间不仅会相差一个旋转与平移,还会存在尺度缩放。待求解的问题可以描述为:已知一组相机(个数为m)的位姿真值Rgt、tgt和预测位姿Rpred、tpred,现要将预测值对齐到真值上。它们之间会相差一个相似变换Msimilarity,包括尺度s、旋转量R、平移量t,可以根据如下步骤进行求解:    1 求解旋转R   首先计算所有m个相机的位姿差异总和

zeeq的博客 3927

李航统计学习方法 Chapter1 统计学习方法概论

第1章 统计学习方法概论 1.统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行分析与预测的一门学科。统计学习包括监督学习、非监督学习、半监督学习和强化学习。 2.统计学习方法三要素——模型、策略、算法,对理解统计学习方法起到提纲挈领的作用。 3.本书主要讨论监督学习,监督学习可以概括如下:从给定有限的训练数据出发, 假设数据是独立同分布的,而且假设模型属于某个假设空间,应用某一评价准则,从假设空间中选取一个最优的模型,使它对已给训练数据及未知测试数据在给定评价标准意义下有最准确的预测。 4.

风信子的猫Redamancy的快乐星球 8361

lammps案例:堆垛层错能的计算

大家好,我是小马老师。 本文介绍如何使用lammps计算晶体的堆垛层错能。 正常晶体中的原子按照一定的规律排列,原子面按ABCABC……的顺序排列,如下图所示: 当某个原子面被抽出后会形成堆垛层错,如图中的蓝色原子层被抽出,原子面排列变为ABCBCA……: 可通过计算堆垛层错能形成前后的能量差计算堆垛层错能,计算公式为: E0为初始能量 Ef为删除一个原子面后的能量 A为界面面积 下面分享一个lammps计算堆垛层错能的in代码,本代码由Richard Glaze完成,本文稍作修改并进行了注释,以供初

lammps_jiayou的博客 5436

机器学习实战26-一种基于LightGBM的股市涨跌预测系统与代码实现过程

在全球经济一体化的背景下,股市作为经济活动的晴雨表,其波动与预测对于投资者、金融机构乃至国家政策制定者而言至关重要。随着金融市场的日益复杂化与信息量的爆炸式增长,股市分析不再仅限于基本面和技术面的传统研究,而是迫切需要更加精准、高效及智能化的方法来捕捉市场动态,以辅助决策制定。模型评估是确保LightGBM股市预测系统准确性和稳定性不可或缺的一环。通过综合运用多种评估指标、科学的验证方法以及深入的性能分析,我们不仅能够全面理解模型的能力和限制,还能为持续优化模型、提升预测准确性奠定坚实基础。

微学AI的博客 2329

统计学习笔记(1)——统计学习方法概论

1.统计学习         统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科,也称统计机器学习。统计学习是数据驱动的学科。统计学习是一门概率论、统计学、信息论、计算理论、最优化理论及计算机科学等多个领域的交叉学科。         统计学习的对象是数据,它从数据出发,提取数据的特征,抽象出数据的模型,发现数据中的知识,又回到对数据的分析与预测中去。统计

Liam Q的专栏 3万+

SI案例分享--FPC(柔性电路板)信号仿真

设计高性能的柔性PCB时,由于采用了网格地的参考面构造,因此,需要按照特定的结构进行布局,才可以保证所需目标阻抗的稳定性,该结构的配置过程称为“Hatch Configuration”,合理的参数配置将有助于得到满意的设计效果。

一只豌豆象的博客 2832

统计学习方法 | 第1章 统计学习方法概论

第1章 统计学习方法概论 1.统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行分析与预测的一门学科。统计学习包括监督学习、非监督学习、半监督学习和强化学习。 2.统计学习方法三要素——模型、策略、算法,对理解统计学习方法起到提纲挈领的作用。 3.本书主要讨论监督学习,监督学习可以概括如下:从给定有限的训练数据出发, 假设数据...

weixin_30352645的博客 240

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

Chap1-统计学习方法概论

再开一个新坑,李航老师的统计学习方法,作为MLDL的纲领

weixin_62528784的博客 1007

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

《统计学习方法》第1章 统计学习方法概论 1.1 统计学习

《统计学习方法》第一章 统计学习方法概论1.1 统计学习1.统计学习的特点2.统计学习的对象3.统计学习的目的4.统计学习的方法5.统计学习的研究6.统计学习的重要性 1.1 统计学习 1.统计学习的特点 统计学习: 计算机基于数据构建概率统计模型并运行模型对数据进行预测与分析的一门学科,也成为统计机器学习(statistical machine learning)。 主要特点:(1)与计算机...

m0_37180911的博客 435

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

【统计学习方法】第1章 统计学习方法概论

统计学习方法的第一章

记录个人学习、笔记 672

1_统计学习方法概论

文章目录1.1 统计学习1.1.1 统计学习的特点1.1.2 统计学习的对象1.1.3 统计学习的目的1.1.4 统计学习的方法1.1.5 统计学习的研究1.1.6 统计学习的重要性1.2 监督学习1.2.1 基本概念1.2.1.1 输入空间、特征空间与输出空间1.2.1.2 联合概率分布1.2.1.3 假设空间1.2.2 问题的形式化1.3 统计学习三要素1.3.1 模型1.3.2 策略1.3....

Hayden的博客 911

1 - 统计学习方法概论

1 统计学习statistical learning: 基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。统计学习也称统计机器学习(statistical machine learning)。现在,当人们提及机器学习时,往往是指统计机器学习。一些要点: 统计学习包括:监督学习(surpervised learning)、非监督学习(unsuprvised learning)、半监督学

DawnRanger的专栏 1585

1.【笔记之】统计学习方法概论

统计学习方法第一章笔记总结,附案例实现及代码。

菜鸟打怪升级副本 430

统计学习方法 - 第1章 - 概论

纯粹是学习过程的随手笔记,根据学习的进度将持续更新

哔哔如是 556

第1章 统计学习方法概论

第1章 统计学习方法概论 1.统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行分析与预测的一门学科。统计学习包括监督学习、非监督学习、半监督学习和强化学习。 2.统计学习方法三要素——模型、策略、算法,对理解统计学习方法起到提纲挈领的作用。 3.本书主要讨论监督学习,监督学习可以概括如下:从给定有限的训练数据出发, 假设数据是独立同分布的,而且假设模型属于某个假设空间,应用某一评价准则,从假设空间中选取一个最优的模型,使它对已给训练数据及未知测试数据在给定评价标准意义下有最准确的预测。 4.

weixin_42075154的博客 228

统计学习方法——第1章 统计学习方法概论

统计学习方法 第一章 统计学习方法概论 1.1 统计学习 ​ 对象:数据。基本假设:同类数据具有一定的统计规律性。 ​ **统计学习方法三要素:**模型、策略、算法 ​ **统计学习的组成:**监督学习、非监督学习、半监督学习、强化学习 1.2 监督学习 **输入空间:**输入的所有可能的取值的集合 **输出空间:**输出的所有可能的取值的集合 **特征空间:**每一个具体的实例由一个特征向量表示...

qq_37172182的博客 333

统计学习方法笔记1—概论

第一章统计学习方法概论 1.1统计学习 统计学习特点:计算机网络平台,数据驱动,构建模型,预测分析 统计学习对象:data,具有一定统计规律的数据 统计学习目的:预测分析 统计学习方法:模型,策略,算法; 统计学习方法的步骤: 统计学习方法的研究:理论与应用 统计学习方法重要性:数据挖掘领域核心技术 1.2监督学习 1.2.1基本概念 输入空间,输...

DMU_lzq1996的博客 351

第1章统计学习方法概论之1.1统计学习

1统计学习(也称统计机器学习) 1.1统计学习定义: 统计学习(statistical learning)是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。 统计学习就是计算机系统通过运用数据及统...

weixin_34319640的博客 179
上一篇: 61463
下一篇: 【机器学习】先验概率、后验概率、贝叶斯公式、 似然函数
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值