李沐·线性回归笔记

最新推荐文章于 2025-05-09 19:51:18 发布
最新推荐文章于 2025-05-09 19:51:18 发布
阅读量345 收藏 3
点赞数 7
文章标签： 线性回归 笔记 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_61357967/article/details/142493565
版权

自动微分

分离计算

有时，我们希望[将某些计算移动到记录的计算图之外]。 例如，假设y是作为x的函数计算的，而z则是作为y和x的函数计算的。 想象一下，我们想计算z关于x的梯度，但由于某种原因，希望将y视为一个常数， 并且只考虑到x在y被计算后发挥的作用。

这里可以分离y来返回一个新变量u，该变量与y具有相同的值， 但丢弃计算图中如何计算y的任何信息。 换句话说，梯度不会向后流经u到x。 因此，下面的反向传播函数计算z=u*x关于x的偏导数，同时将u作为常数处理， 而不是z=x*x*x关于x的偏导数。

这里的y.detach()本质上是并不是把y这个变量的计算过程移出计算图，而是创造一个新的变量u来接收一个与y数值相同，但是不在y所在的计算图中的变量。意味着即使我们对y.detach()后，如果我们直接用z=y*x去计算x的梯度，结果就是y仍然参与了x的梯度计算。结果如下：

Mr.tomato920
关注
李沐笔记（线性回归）
qq_42310607的博客
11-16 2096
一个简化模型（权重和偏差的实际值在后面决定）： 线性模型： 线性模型可以看做是单层神经网络（输入维度是d，输出维度是1，每个箭头表示一个权重））： 衡量预估质量： 训练数据： 参数学习： 显示解： 总结： 基础优化算法： 梯度下降： 选择学习率： 不能太小（每一步的步伐有限，到达一个点需要很多步（很贵）） 不能太大（震荡，没有向一个方向下降） 小批量随机梯度下降: 选择批量大小： 总结： ...
李沐线性回归1代码笔记
WSunsky
10-20 268
工具：jypter 语言：python %matplotlib inline import random import torch from d2l import torch as d2l %matplotlib inline将图表内嵌到notebook中，省略plt.show() ipython环境中魔法命令以%或者%%开头 d2l包 《动手学深度学习》提供的包 def synthetic_data(w,b,num_examples): X=torch.normal(0,1,(.
线性回归原理（李沐老师学习笔记）
maggieyiyi的博客
07-15 1289
回归（regression）是能为一个或多个自变量与因变量之间关系建模的一类方法。在自然科学和社会科学领域，回归经常用来表示输入和输出之间的关系。例如最常见的线性回归y=kx+b;通常，我们使用n来表示数据集中的样本数。对索引为i的样本，其输入表示为x(i)=[x1(i),x2(i)]⊤，其对应的标签是y(i)。............
学习笔记-李沐动手学深度学习（二）（08-09、线性回归、优化算法、梯度下降、学习率、Softmax回归、损失函数、图片分类）
ljmiiianng的博客
01-21 1960
说明："""生成 y = Xw + b + 噪声"""num_examples = len(features) # 样本个数indices = list(range(num_examples)) # 样本索引# 这些样本是随即读取的，没有特定的顺序random.shuffle(indices) # 把索引随即打乱。
【李沐深度学习笔记】线性回归
随手写写
09-25 194
线性回归p1 本系列文章是我学习李沐老师深度学习系列课程的学习笔记，可能会对李沐老师上课没讲到的进行补充。 其中，=[x1​,x2​,…,xi​,…,xn​]T，iii代表第iii个特征（即本例中的卧室个数，卫生间个数和居住面积），其实为了方便记录第jjj个样本的第iii个特征，我更倾向于这个写法：xj→=[xj1,xj2,…,xji,…,xjn]T\overrightarrow {{x}_{j}}=\left [ x_{j}^{1},x_{j}^{2},\dots ,x_{j}^{i} ,\dots ,
深度学习（李沐）线性回归笔记
qq_53823403的博客
03-04 933
小批量训练通过折中全批量与随机梯度下降高效计算：利用硬件并行性加速。内存优化：避免一次性加载全部数据。稳定收敛：梯度噪声适中，更新方向更可靠。实际应用中，批量大小（batch size）和学习率（learning rate）是需调参的关键超参数，通常通过实验选择最优组合。W。
李沐08线性回归和基础算法优化——自学笔记
Rrrrrr900的博客
03-25 1189
我们使用线性模型参数y=Xw+b+c,w=[2,-3.4]^T、b=4.2和噪声项c。定义一个data_iter函数，函数接收批量大小、特征矩阵和标签向量作为输入，生成大小为batch_size的小批量。给定n维输入： x=[x1, x2,…线性模型有一个n维权重和一个标量偏差： w=[w1, w2, …沿着梯度方向将增加损失函数值（梯度，上升最快的方向，负梯度：下降最快的方向）reshape(1,-1)转化成1行；b是批量大小，另一个重要的超参数：不能太大，也不能太小。
机器学习西瓜书笔记——线性回归
m0_73556978的博客
09-19 1180
二元线性回归在直角坐标系中拟合出一条直线，多元线性回归在解空间内拟合出一个超平面。线性回归解释了自变量（特征）与因变量之间的关系，可以根据自变量得到因变量的值。**线性回归可以理解为单层神经网络**，当线性模型有两个输入时，他就是一个感知机。
【深度学习】跟李沐学ai 线性回归 从零开始的代码实现超详解
m0_61809818的博客
07-14 2076
整理,跟李沐学ai，机器学习线性回归，从零开始的代码实现与解析。既帮自己复习回顾，也向别的初学同学分享一下我的思路。
线性回归-李沐老师-课堂笔记
04-13
线性回归-李沐老师-课堂笔记
08 线性回归 动手学深度学习 PyTorch版 李沐视频课笔记
tangailong8709的博客
02-09 758
08 线性回归 动手学深度学习 PyTorch版 李沐视频课笔记
李沐深度学习笔记3.3简洁实现线性回归
qq_41612738的博客
07-22 659
3.3简洁实现线性回归。
【阿里云大模型高级工程师ACP学习笔记】3 总结与展望
davidkorhenn的博客
05-06 1661
【摘要】本文详细分享了自学备考阿里云大模型高级工程师 ACP 认证的学习笔记。涵盖学习目标设定，对大模型应用开发各知识点的汇总梳理，包括重要性和难易度评估，还对重点难点知识的学习心得进行了分享，为想要考取该认证的学习者提供全面的参考。
SpringBoot学习笔记（1）
weixin_74090771的博客
05-07 1247
SpringBoot概述以及日志配置
Cadence学习笔记之---PCB工程创建、类与子类、颜色管理器介绍
weixin_46134133的博客
05-06 920
本篇文章主要讲述如何创建PCB工程、什么是Cadence PCB工程中的类与子类，以及Cadence颜色管理器的使用。
蓝桥杯单片机备战笔记
2301_79461876的博客
05-05 690
bit 是 C 语言中的一种数据类型，通常由特定编译器（如 Keil C51 或 SDCC）扩展支持，用于声明一个单比特变量。sbit定义：sbit 是“special bit”的缩写，是特定编译器（如 Keil C51）提供的关键字，用于声明直接映射到硬件寄存器（如端口、控制位）的单比特变量。十三、u8 i 和 int i 在for循环中引起的区别。
Maven使用exclusions排除依赖-笔记
taotiezhengfeng的博客
05-08 806
介绍Maven 的<exclusions> 标签功能，并给出使用示例
学习笔记：黑马程序员JavaWeb开发教程(2025.3.31)
最新发布
Xjhhhhh的博客
05-09 243
和老师给的代码比了一下，是@PutMapping("/emps/{id}")，动态id这里，多加了一个#，变成了/#{id}，所以报错了，应该是用法不对。引用外部工具，需要硬编码赋值的多，而且过于分散，不太合适，把赋值写到properties中，并且在工具类中使用@Value（spring里面的）赋值。怀疑是username或者是name重复了，这里可能设置了一个唯一约束，所以将这两项进行修改，成功。Yml格式的配置文件的后缀可以是yml，也可以是yaml，不同配置方式对应不同格式。
虚拟机设置NAT没网笔记
m0_51152048的博客
05-09 88
查看任务管理器的时候发现，VMware NAT Service 进程都没有。
深度学习实践：李沐老师的Pytorch代码笔记
- 代码笔记可能包含了基础的线性回归、逻辑回归、多层神经网络等模型的实现。 - 同时，也可能包括一些高级话题，例如循环神经网络（RNN）、卷积神经网络（CNN）、迁移学习等。 4. 代码运行与问题解决： - 提供的...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值