西瓜书-3.9，3.10理解过程-线性模型

最新推荐文章于 2025-05-25 19:52:01 发布
最新推荐文章于 2025-05-25 19:52:01 发布
阅读量1.3k 收藏 1
点赞数
CC 4.0 BY-SA版权
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/tiankong_/article/details/87259541
本文深入解析3.9公式，阐述其在均方差计算中的应用，及如何通过argmin求得权重向量w。面对样例少、维度高的问题，介绍学习算法的归纳偏好及正则化项的引入，确保模型泛化能力。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

许多人对3.9公式不理解，其实，min右侧只是用矩阵的形式表示了均方差的概念（大家可以结合矩阵的乘法运算举个例子试试），argmin表示右侧式子最小时w取得的值，我们的目标就是求出这个向量w

 

需要注意的是：实际问题中，我们的样例数可能很少，而属性维度却很大，即造成了求出多个权重向量维度的情况，都能使得均方误差最小化，此时，如何选择最终结果呢？

决定因素：学习算法的归纳偏好 

做法：引入正则化项

 

【西瓜书公式推导】【第3章】一元线性回归
weixin_43354891的博客
09-10 548
第3章 线性模型 3.2 线性回归 1. 一元线性回归 推导思路 Created with Raphaël 2.2.0由最小二乘法导出 E(w,b)证明 E(w,b) 是关于 w 和 b 的凸函数对 E(w,b) 关于 w 和 b 的求一阶偏导数令一阶导数等于0解出 w,b 详细推导过程： 由最小二乘法导出 E(w,b)E(w,b)E(w,b) ： E(w,b)=∑i=1m(yi−f(xi))2=...
多元线性回归--最小二乘法进行估计(西瓜书公式（3.9））
Venki_Li的博客
09-11 362
多元线性回归--最小二乘法进行估计 提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、pandas是什么？ 二、使用步骤 1.引入库 2.读入数据 总结 前言 提示：这里可以添加本文要记录的大概内容： 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。 提示：以下是本篇文章正文内容，下面案例可供参考 一、pandas是什么？ 示例：pandas 是基于NumP
西瓜书《机器学习》全网最详细解读 第三章：线性模型
sherlockMa的博客
05-25 822
机器学习》，又称西瓜书，是南京大学教授周志华教授编著的一本机器学习领域的经典教材。《机器学习》系统地介绍了机器学习的基本理论、常用算法及其应用。全书内容丰富，涵盖了机器学习的多个重要方面，包括监督学习、无监督学习、强化学习等主要学习范式。《机器学习》适合计算机科学、人工智能、数据科学等相关专业的本科生、研究生以及对机器学习感兴趣的自学者。无论是初学者希望系统地学习机器学习的基础知识，还是有一定基础的研究人员和从业者希望深入了解前沿技术，这本书都能提供有价值的参考。在接下来的日子里，我将。
西瓜书公式推导讲解来了！
Datawhale
06-02 648
↑↑↑关注后"星标"Datawhale每日干货&每月组队学习，不错过Datawhale学习开源贡献：Datawhale团队组队学习Datawhale南瓜书是...
西瓜书-多元线性回归-公式3-9推导
weixin_42486139的博客
11-11 556
【一起啃书】机器学习西瓜书白话解读——02模型评估与选择（2.3）
qq_42713936的博客
02-19 417
第2章 模型评估与选择2.3 性能度量（0207 均方误差）2.3.1 错误率与精度（0208）2.3.2 查重率、查全率与F1查重率、查全率（0209）P-R反向关系原理（0210）P-R反向关系图像与F1（0211）macro/micro - P/R（0213）2.3.3 ROC与AUCROC曲线与AUC（0215）排序损失rank-loss（0216）AUC与rank-loss（0217）2.3.4 代价敏感错误率与代价曲线代价敏感曲线引入（0218）代价曲线思路（0219） 2.3 性能度量（020
apache-maven-3.9.9（含windows和linux版本）.zip
09-19
它基于项目对象模型的概念，通过一个中央信息管理文件（pom.xml），来管理项目的构建，报告和文档。Maven不仅能够处理编译，分配，文档生成等任务，还能与其他工具集成，比如单元测试，代码覆盖工具，SCM，发布管理...
apache-maven-3.9.10-bin.zip
最新发布
06-10
Maven 采用了一种名为项目对象模型（POM）的概念，通过一个中央信息管理的方式来管理项目构建，报告和文档。Maven 简化和标准化了构建过程，提供了丰富的项目信息，并且支持开发者之间的协作和通信。它通过定义一...
poi-3.9、poi-ooxml-3.9、poi-ooxml-schemas-3.9
01-10
标题提到的"poi-3.9、poi-ooxml-3.9、poi-ooxml-schemas-3.9"是Apache POI的不同组件或版本，它们在生成和操作Excel文件时起着关键作用。 1. poi-3.9.jar：这是Apache POI的主要库，包含了处理老版Microsoft Office...
python3.7-python3.8-python3.9-python3.10对应的dlib安装包.whl.zip
03-26
python3.7_python3.8_python3.9_python3.10对应的dlib安装包.whl.zippython3.7_python3.8_python3.9_python3.10对应的dlib安装包.whl.zippython3.7_python3.8_python3.9_python3.10对应的dlib安装包.whl.zippython...
最新版apache-maven-3.9.9-bin.zip
04-09
Apache Maven是一个基于项目对象模型（POM）概念的软件项目管理和理解工具。它主要服务于Java项目，通过一个名为“pom.xml”的配置文件来管理项目的构建、报告和文档等。Maven使用预定义的规则来自动下载项目的依赖...
西瓜书知识总结（第三章）
weixin_44605171的博客
01-17 1434
线性模型 机器学习三要素：模型、策略、算法。 1.基本形式 什么是线性模型？通过属性的线性组合构成预测函数，该函数就是属于线性模型 f(x)=w1x1+w2x2+…+wdxd+b f(\pmb{x}) = w_1x_1+w_2x_2+\ldots+ w_dx_d+b f(xxx)=w1​x1​+w2​x2​+…+wd​xd​+b 向量形式是 f(x)=wTx+bf(x)=\pmb{w}^{\mathrm{T}}\pmb{x}+bf(x)=wwwTxxx+b，这里的 w\pmb{w}www 和 b\pmb{b
“西瓜书核心知识点”---第一章：基本知识点
多敲代码！
01-06 1642
西瓜书核心知识点简记，根据理解和学习，希望用通俗的语言记录下来，与君共享！
2位专家耗时2年打造，西瓜书机器学习公式详解，都在这里了！（文末留言赠书）...
weixin_40920183的博客
03-22 743
作为机器学习的入门经典教材，周志华老师的《机器学习》，自2016年1月底出版以来，首印5000册一周售罄，并在8个月内重印9次。先后登上了亚马逊，京东，当当网等的计算机类畅销书榜首，身边学...
机器学习笔记之西瓜书、南瓜书（一）——1-6章
ooorczgc的博客
07-13 1836
DataWhale机器学习——吃瓜教程（一）学习笔记
【超详细】机器学习（西瓜书）第4章决策树知识详解
m0_53333776的博客
03-27 6171
引入 我们对“这个瓜是好瓜吗？”这样的问题进行决策时，通常会进行一系列的判断或子决策：我们先看“它是什么颜色？”如果它是“青绿色”的，那我们再看“它的根蒂是什么形态？”，如果是“蜷缩”，我们再判断“它敲起来是什么声音？”，如果是“浊响”，那么最后，我们得到最终的决策结果——它是个好瓜……这是人类在面临决策问题时一种很自然的处理机制，而决策树就是基于这样的树结构进行建立的。 一、一些简单概念 1. 决策树是一种常见的机器学习算法，它是基于树结构来进行决策的。 2. 一般的，一棵决策树包含一个根节..
西瓜书学习笔记（一）
xyc_undermoon的博客
05-16 1182
第三章-线性模型 3.1基本形式 给定由d个属性描述的示例x = {x1; x2; … ; xd}，xi是x在第i个属性上的取值。 线性模型(linear model)：通过属性的线性组合进行预测的函数，即： fx=w1x1+w2x2+…+wdxd+b 用向量表示： fx=wTx+b 其中w=(w1; w2;…; wd)。线性模型就是要学得w和b。 非线性模型(nonlinear ...
《机器学习》（西瓜书）学习笔记
热门推荐
肥猫
02-03 3万+
西瓜书简介
西瓜书学习笔记
snailbuster的博客
09-14 754
决策树 输入训练集，和属性集，输出以node为根节点的一个决策树。
使用Rufus-3.9/3.10和Syslinux-6.03制作Ubuntu启动盘
在制作启动盘的过程中，可能会遇到自动下载syslinux不成功的情况，这时就需要手动指定版本来确保引导程序的正常工作。 1. Rufus工具的基本介绍 Rufus是一个小巧的工具，可用于在USB闪存驱动器上制作可启动的DOS或...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

五癫

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值