【论文精读】如何读论文

最新推荐文章于 2024-11-04 17:31:42 发布
最新推荐文章于 2024-11-04 17:31:42 发布
阅读量1.4k 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 跟李沐学AI
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/joyce_peng/article/details/122163310
此为跟着李沐学AI的b站视频中论文精读第一期的笔记，聚焦信息技术领域的AI学习内容。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

跟着李沐学AI的b站视频—论文精读第一期笔记
在这里插入图片描述

Transformer论文精读
L1142456160的博客
06-09 840
Transformer：Attention is all you need ，介绍了论文中各章节的主要思想，本文是对李沐老师的视频的学习笔记和李宏毅老师的视频笔记
BERT 论文逐段精读【论文精读】
qq_56618414的博客
09-08 1811
嵌入层就是一个矩阵，嵌入层的输入是字典的大小（这里是30K），输出是隐层单元的大小，隐层单元是Transformer的输入。用一句话来概括Bert，就是Bert是一个深的双向的Transformer，针对的是一般的语言理解任务。第二点的随机替换，因为需要在最后一层随机替换的这个 token 位去预测它真实的词，而模型并不知道这个 token 位是被随机替换的，就迫使模型尽量在每一个词上都学习到一个 全局语境下的表征，因而也能够让 BERT 获得更好的语境相关的词向量（这正是解决一词多义的最重要特性）；
如何精读一篇论文？
深度学习与计算机视觉
10-25 1041
作为一枚CVer，怎样才能出成绩？计算机视觉算是人工智能的几个分支中，竞争最激烈的方向之一了，内卷也最为严重。对于已然入坑的研究生宝宝，想要一路打怪升级，论文必定是最大的那个task。说到打怪升级需要做哪些准备？毫无疑问，前期当然是要啃Paper、复现Paper呀！尤其是个各大顶会论文，作为Al发展的风向标。每一次论文出来，都有一堆人等着收集整理、研读复现，从中get idea。But！在复现P...
如何读论文[论文精读]
Highlight_Jin的博客
10-23 3735
如何读论文[论文精读] 一、论文一般分为以下几个部分 1.title 2.abstract 3.introduction 4.method 5.experiment 6.conclusion 二、如何花3遍读一篇论文 1.第一遍： 关注标题、摘要，读完摘要直接跳到结论。这篇论文title是什么东西，和自己是不是相关；摘要是简单介绍自己的论文是在做什么事情；结论通常和摘要是一样的，但是摘要里面可能提出一两个问题，用一些实际的结论、实际的数字给你证明一下。读完这三个部分，大概知道这篇论文是在讲什么内容。然后跳到
如何高效阅读一篇论文？来自18位教授、主编和博士生的最好建议！
热门推荐
zhaodongh的博客
03-03 3万+
撰文 | Elisabeth Pain （翻译 何伟雄 ；审校 魏潇） 文章来源自公众号科研圈（ID：keyanquan） 即便是专业的科研从业者，也无法做到像看小说一样阅读各类研究论文——许多研究者表示他们在读论文时遇到了很多困惑和挫折。因此，《科学》（Science）邀请了十几位不同领域、不同资历的科学家来告诉我们，他们是如何做的。 虽然阅读科学论文会随着经验增长而变得容易，但是过程中遇到的困...
精读了一篇论文
天天向上的专栏
10-06 2602
研究方向越是偏数学，一些参考文献的论文或许很难看懂。这次拒稿原因之一，就是某一篇重要的参考文献没有引用。我当时读了这一篇论文，但是那时候没有理解里面的证明是怎么推出来的。不过，时隔一年半，经过不少数学方面的阅读，数学水平明显比以前是高了点，起码我现在能够完全理解这篇论文的证明过程了。 这篇论文是：Gallego G, Scheller-Wolf A. Capacitated inventory p...
论文精读系列
srh20的博客
11-04 425
​。
GAN论文精读读后感
irony_202的博客
03-14 1050
GAN：生成对抗网络，架构采用了一个生成模型和一个判别模型，生成模型的输入是一个100维的均值为0方差为1的高斯分布，通过多层感知机来学习一个映射参数来拟合原输入x，判别模型的输入是x和生成模型的输出（标签分别是1和0）。 目标函数为 其中判别模型需要最大化这个函数，生成模型要最小化右边的式子。 具体过程： 每次从z中采样m个噪声样本，从x中采样m个真实样本作为小批量来更新判别器的参数，再用m个噪音样本来更新生成器参数，判别器的性能不宜过强与过弱，否则会影响生成器的更新动力。 目标函数的正确性（理论）：
【腾讯元宝-免费论文精读】
vor234的博客
09-30 1397
在没收费之前，可以冲的。翻译过程中只有文本，没有图文表格左右两边的内容，目前没有联动起来，不能点右边，自动定位到左边原文，查阅原文不太方便。腾讯元宝-免费论文精读-翻译-实测+教程+点评。
论文精读--ResNet
m0_73202283的博客
01-21 2541
深度神经网络更难训练。我们提出了一个残差学习框架，以简化比以前使用的网络深度大得多的网络的训练。我们明确地将层重新表述为参考层输入的学习残差函数，而不是学习未参考的函数。我们提供了全面的经验证据，表明这些残差网络更容易优化，并且可以从相当大的深度中获得精度。在ImageNet数据集上，我们评估了深度高达152层的残差网络——比VGG网络深度8倍[41]，但仍然具有较低的复杂性。这些残差网络的集合在ImageNet测试集上的误差达到3.57%。该结果在ILSVRC 2015分类任务中获得第一名。
论文精读系列文章总链接
YangtseJin的博客
03-22 375
论文精读系列文章总链接
深度学习论文精读集合 李沐发起的深度学习领域经典、最新论文精读视频集合
09-03
深度学习领域的论文精读不仅能够帮助学习者建立扎实的理论基础，还能够提高其研究与应用能力，为未来可能的毕业设计、学术研究或工业实践打下坚实的基础。通过深入阅读和理解这些论文，学习者可以在深度学习这一充满...
YOLO系列论文精读.zip
06-12
YOLO系列论文精读.zipYOLO系列论文精读.zipYOLO系列论文精读.zipYOLO系列论文精读.zipYOLO系列论文精读.zipYOLO系列论文精读.zipYOLO系列论文精读.zipYOLO系列论文精读.zipYOLO系列论文精读.zipYOLO系列论文精读....
【路径规划】基于ADMM求解时间窗车辆路径问题VRPTW附Matlab代码.rar
07-28
【路径规划】基于ADMM求解时间窗车辆路径问题VRPTW附Matlab代码
基于GTD的项目管理系统。.zip
最新发布
07-28
基于GTD的项目管理系统。
2022年园区大数据治理解决方案(1).pptx
07-28
2022年园区大数据治理解决方案(1).pptx
船舶通信与沟通(共29张)(1).pptx
07-28
船舶通信与沟通(共29张)(1).pptx
【风电预测】基于BiTCN-LSTM的风电功率预测研究附Matlab代码.rar
07-28
2.附赠案例数据可直接运行。 3.代码特点：参数化编程、参数可方便更改、代码编程思路清晰、注释明细。 4.适用对象：计算机，电子信息工程、数学等专业的大学生课程设计、期末大作业和毕业设计。
自动化施工方案(1).doc
07-28
自动化施工方案(1).doc
论文精读复现
05-15
### 论文精读与实验复现的方法 #### 方法概述 论文精读和实验复现是深入理解研究工作的重要手段。在IT领域，这种方法不仅有助于掌握技术细节，还能培养批判性思维能力以及实际动手能力。以下是针对论文精读和实验复现的具体方法。 --- #### 一、论文精读的核心步骤 1. **快速浏览全文** 阅读摘要、引言和结论部分，了解论文的研究背景、主要贡献和技术框架[^1]。这一步的目标是形成对整篇论文的大致印象。 2. **逐节细读** 对于任务规划模块或其他核心章节，仔细阅读其理论推导、算法设计和实验设置等内容。注意作者提到的局限性和未来工作的方向[^1]。如果发现某些方面未被充分讨论（如参数影响或任务依赖关系），可以记录下来作为后续探索的方向。 3. **绘制结构图** 使用流程图或者概念地图的方式整理出论文的技术路线及其组成部分之间的逻辑联系[^2]。这种可视化工具能够帮助记忆复杂的信息流，并便于与其他相关工作对比分析。 4. **质疑与思考** 提问自己几个关键问题：为什么选择了特定的方法？是否存在其他可能更优的选择？数据集选取是否合理？评价指标是否有偏倚等问题[^3]？ --- #### 二、实验复现的关键环节 1. **环境搭建** 根据论文描述准备所需的软件库版本号、硬件配置需求等基础条件。很多时候官方开源代码附带详细的安装指南可以帮助加速此阶段进程[^2]。 2. **重现基线结果** 尝试按照文中提供的超参设定运行原始模型得到接近原作报告数值的表现水平。这是验证个人实现正确性的第一步也是最重要的一步[^1]。 3. **修改与优化** 基于自己的理解和前期提出的疑问尝试调整网络架构、损失函数定义甚至整个训练策略等方面的内容看能否进一步提升性能表现或是解决之前指出的一些不足之处例如增加对于不同类型输入适应性强弱测试等等[^3]。 4. **撰写总结文档** 不仅要记录下成功再现的结果也要包括失败案例的原因剖析这样既有利于自我反思也方便日后查阅参考资料时迅速定位重要知识点[^2]. --- #### 示例代码片段展示如何加载预训练权重文件(以PyTorch为例) ```python import torch def load_pretrained_weights(model, path_to_checkpoint): checkpoint = torch.load(path_to_checkpoint) model.load_state_dict(checkpoint['model']) epoch = checkpoint.get('epoch', None) loss = checkpoint.get('loss', None) return model, epoch, loss ``` 上述代码展示了怎样从磁盘上的checkpoint恢复先前保存的状态以便继续训练或者是直接用于推理模式下的预测操作[^2]. ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值