李沐动手学习深度学习——3.1练习

已于 2024-02-28 12:11:04 修改
阅读量245 收藏
点赞数 4
分类专栏： 动手学习深度学习 文章标签： 学习
于 2024-02-28 10:35:29 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_45496725/article/details/136339461
版权
本文围绕技术领域的公式推导过程，作者分享了手写形式的困惑，并邀请读者参与讨论，共同检验可能存在的错误。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

字写的有点丑不要介意
由于公式推导烦的要死，所以手写形式，欢迎进行讨论，因为我也不知道对错
在这里插入图片描述
在这里插入图片描述

【动手学深度学习】(task1&2&3)注意力机制剖析
发现问题，并解决问题，批判性思维
03-20 2577
自注意力和位置编码 - 在自注意力中，查询、键和值都来自同一组输入。 - 卷积神经网络和自注意力都拥有并行计算的优势，而且自注意力的最大路径长度最短。但是因为其计算复杂度是关于序列长度的二次方，所以在很长的序列中计算会非常慢。 - 为了使用序列的顺序信息，可以通过在输入表示中添加位置编码，来注入绝对的或相对的位置信息。 ## 6.1 比较卷积神经网络、循环神经网络和自注意力 给定一个由词元组成的输入序列$\mathbf{x}_1, \ldots, \mathbf{x}_n$，其中任意$\mathbf{x}_
第3章(3.11～3.16节)模型细节/Kaggle实战【深度学习基础】--动手学深度学习【Tensorflow2.0版本】
土豆洋芋山药蛋的博客
01-31 1540
项目地址：https://github.com/TrickyGo/Dive-into-DL-TensorFlow2.0 UC 伯克利李沐的《动手学深度学习》开源书一经推出便广受好评。很多开发者使用了书的内容，并采用各种各样的深度学习框架将其复现。 现在，《动手学深度学习》书又有了一个新的复现代码版本——TensorFlow2.0 版，短时间内成为了github上千star项目，欢迎关注。 3....
李沐动手学习深度学习——3.4练习
weixin_45496725的博客
02-28 964
softmax回归
个人学习笔记2：动手学深度学习pytorch版-李沐
浪子L的博客
09-01 1394
主要记录学习笔记，学习书目为李沐老师的《动手学习深度学习》 重预备知识开始记录。 开源书籍地址：https://zh-v2.d2l.ai/chapter_preface/index.htmll 李沐老师B站视频：https://space.bilibili.com/1567748478/channel/seriesdetail?sid=358497
2025-04-22 李沐深度学习5 —— 线性回归
zheliku的博客
04-22 1473
​ 在美国买房时，买家需根据房屋信息（如卧室数量、卫生间数量、面积等）预测合理的成交价。输入数据：房屋特征（如X1=卧室数X2=卫生间数X3=面积输出目标：预测成交价Y。实际挑战：卖家的标价和网站估价（如Redfin）仅为参考，最终需通过竞价决定成交价，因此准确预测至关重要。​ 计算输入特征X\mathbf{X}X和模型权重w\mathbf{w}w的矩阵-向量乘法后加上偏置bbb。​ 注意，上面的XwXw是一个向量，而bbb是一个标量。
跟李沐老师动手学习AI学习笔记：第三章——线性神经网络
AndrewPerfect的博客
05-16 617
已学习两章pytorch，对于其中的很多函数使用起来仍然有些不了解，尤其是pytorch语法，以及jupyter文件的认识仍不足，需要进一步回顾也好，学习新内容也好，去熟悉pytorch代码编写的特点，会用，更会灵活使用，要多思考。既没有那么难，因为目前遇到的问题都可求得解决方法，但是，也没有那么简单，需要自己静下心，好好捋一捋所学到的、学了忘记的知识。更重要还是提高效率，保持好心态，相信一定可以学有所思，思有所获！
2025-04-18 李沐深度学习2 —— 数据操作&预处理
zheliku的博客
04-18 1063
巷子类型为“Pave”的行会将“Alley_Pave”的值设置为1，“Alley_nan”的值设置为0。这个新的张量包含与转换前相同的值，但是它被看成一个 3 行 4 列的矩阵。下面的例子分别演示了当我们沿行（轴-0，形状的第一个元素） 和按列（轴-1，形状的第二个元素）连结两个矩阵时，会发生什么情况。​ 在上面的例子中，为了获得一个3行的矩阵，我们手动指定了它有 3 行和 4 列。在下面的例子中，我们使用逗号来表示一个具有 5 个元素的元组，其中每个元素都是按元素操作的结果。在这里，我们将考虑插值法。
动手学深度学习pytorch（第一版）学习笔记 —— 第三章
lwangqqq的博客
05-16 1210
第三章介绍了线性神经网络的基础知识，重点讨论了线性回归和softmax回归。
从 Seq2Seq 到 Transformer：深度学习注意力机制与编码-解码框架综述
aiqq136的博客
01-15 1106
本文首先介绍了序列到序列（Seq2Seq）模型的概念与演进过程，包括其在处理变长输入和输出序列方面的优势与局限。随后重点阐述了注意力机制（Attention）的提出背景、核心思想与重要特性，并结合自注意力（Self-Attention）、交叉注意力（Cross-Attention）等不同形式，剖析了它们在解决长时依赖与信息丢失问题中的关键作用。接着，本文详细展示了基于 Transformer 的编码器-解码器（Encoder-Decoder）结构，包括多头注意力、多层前馈网络、残差连接和掩码技术在解码过程中
豆瓣评分9.4，邱锡鹏教授蒲公英书姊妹篇《神经网络与深度学习：案例与实践》重磅来袭
华章IT官方博客
07-28 1886
“我不能创造的东西，我就不理解（ What I cannot create, I do not understand）．”这是诺贝尔物理奖获得者理查德 ·费恩曼（ Richard Feynman）在他办公室黑板上留下的一句话。深度学习的学习中也是如此，只有通过实践才能更深入地理解理论。蒲公英书《神经网络与深度学习》主要阐述了神经网络与深度学习技术的基本原理和方法。很多读者...
java基础学习(二十)
AbaseZ的博客
06-01 826
在子类中可以根据需要对从父类中继承来的方法进行改造，也称为方法的重置、覆盖。在程序执行时，子类的方法将覆盖父类的方法。
【Python 学习笔记】dictionary unpacking
cbldzz的博客
06-03 160
【代码】【Python 学习笔记】dictionary unpacking。
板凳-------Mysql cookbook学习 （九）
fengye207161的博客
05-30 800
在 MySQL 中，CREATE TABLE LIKE 是一种用于创建新表的语法，该新表的结构与现有表完全相同，但不包含源表中的数据1。上述语句将创建一个名为 employees_backup 的新表，其结构与 employees 表完全一致，但不包含任何数据1。此语法会复制 existing_table_name 表的所有列定义、索引以及约束到 new_table_name 表中1。新表结构：仅包含 SELECT 中显式指定的字段，不继承源表的索引和约束（除非手动声明）。一、CREATE TABLE …
CppCon 2014 学习:Defensive Programming Done Right.
虾球
06-02 772
这段摘要讲的是：这个大纲展示了如何从系统设计、接口约定，到实现防御、测试验证，全流程构建健壮、可控、可测的 C++ 组件库。 Physical Design（物理设计） 关注：程序的组织结构和部署方式 包括： 头文件（ / ） 实现文件（） 静态库、动态库（, , ） 表示“我们如何组织代码和构建产物” 示例： 总结对比 特性 Logical Design Physical Design 本质 行为的设计 结构和文件的组织方式 关注点 类、函数、契约 文件、模块、编译边界
学习笔记：3个学习AI路上反复看到的概念：RAG，Langchain，Agent
FBeetle的博客
05-31 426
RAG的能力核心是有效结合了检索和生成两种方法。基本思路是把私有数据进行切片，向量化后通过向量检索进行召回，再作为上下文输入到通用大模型，模型再进行分析和回答。同时，AI Agent也可以利用RAG技术来提高其在特定任务（如问答或对话系统）中的性能，尤其是在需要外部知识来支持决策时。RAG可以作为LangChain（如果它是一个语言处理工具）的一部分，用于提供更加丰富和准确的语言生成能力。AI Agent可能使用LangChain来处理自然语言的任务，比如理解用户输入和生成响应。
SAP学习笔记 - 开发17 - 前端Fiori开发 Component 配置（组件化）
shi_ly的专栏
06-01 809
本章讲 Component 配置（组件化），其本质就是把一些共通处理给拿出来放到 Component.js 里面。这样做就会缩减Controller.js 里面的代码。
CppCon 2014 学习:Mixins for C++
虾球
06-04 523
问题组合的限制解决方式数量不定组合不能变参用变参模板继承名字固定成员名必须提前写死无法完美解决，可通过tupleget<N>绕过方法转发需要手动转发成员方法C++20 的可改善Variadic CRTP + 多继承，将多个策略的成员变量和方法“拼装”到一个类型中。策略聚合体) 作为中枢协调整体状态和类型。通过模板元编程，变成了一个功能非常灵活且强类型的查询对象。每个策略负责自己的一块责任，互不干扰，易于扩展。select_t,no_from_t,是。
go语言学习 第4章：流程控制
最新发布
2301_80152021的博客
06-04 367
本章介绍了Go语言的流程控制语句，主要包括条件语句和循环语句。条件语句部分详细讲解了if语句（单分支、双分支、多分支）和switch语句的基本用法以及特殊特性（如fallthrough）。循环语句部分则重点阐述了for循环的基本结构、无限循环和灵活用法，以及for-range循环在数组、切片、字符串和映射中的应用。此外还介绍了循环控制语句break和continue的使用方法。这些流程控制语句是构建程序逻辑的基础，掌握它们对编写高效的Go代码至关重要。
2025.5.29 学习日记 docker概念以及基本指令
2503_90593237的博客
05-31 678
用于定义 Docker 镜像的构建步骤。通过编写指令，你可以指定基础镜像、安装软件、配置环境变量、复制文件等，最终生成一个可复用的镜像。是一款适用于 Mac、Linux 或 Windows 环境的一键安装应用程序，可让用户构建、分享和运行容器化应用程序和微服务。配置文件，可一次性编排多个服务（如 Web 应用、数据库、缓存等），实现服务的快速部署、扩展和管理。Docker 是一种开源的容器化平台，用于快速部署应用程序，实现开发、测试和生产环境的一致性。，用于定义和管理由多个容器组成的复杂应用。
李沐动手学深度学习配套：pytorch代码解析
李沐博士在深度学习和自然语言处理领域有着广泛的研究，如果此处提及的李沐正是李沐博士，那么他所著或主导的“动手学深度学习配套”资源想必对初学者非常友好，因为它将理论与实践紧密结合，并且着重于动手实践来...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

pengshi12138

加油加油

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值