【清华NLP】刘知远团队大模型公开课学习笔记（全网最细）

已于 2024-12-04 15:00:56 修改
阅读量236 收藏 1
点赞数 2
文章标签： nlp 自然语言处理 语言模型 pytorch
于 2024-12-02 13:26:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/python_vb/article/details/144185627
版权
codgodtao
关注
B站学习资源汇总
孙叫兽的博客
07-06 2110
一个B站就足够解决绝大多数学习问题。 AI入门 1、Crash Course AI https://space.bilibili.com/276373762/channel/detail?cid=101907 课程介绍：该课程出自Crash Course，首发YouTube，单个视频时长均在10分钟左右。视频节奏非常好，语速偏快，适合下饭时间入门了解。主讲很擅长深入浅出的讲清复杂的概念，一集信息量很大甚至评论区还会有课代表帮你总结才能稍稍消化。 数学基础 1、Up主：3Blue1Br..
清华NLP-刘知远团队大模型公开课（学习笔记）
a131529的博客
11-07 1634
链接: https://pan.baidu.com/s/1ZboqS6D5Rc705piL0ANXog?
【大模型公开课】清华大学刘知远团队大模型公开课学习笔记——1.4自然语言处理基础与应用
weixin_44184852的博客
07-18 553
有一个关于NLP领域比较好的综述：Advances in Natural Language Processing。再进一步：Named entity recognition 命名实体的识别。最后：句法各种成分的依赖关系 中文中词与词之间没有空格，需要进行分词。发表在2015年的Science上 比较适合了解NLP的基本知识。再进一步：为了应对自然语言处理中省略的现象，比如共指消息。基本任务：词性标注 part of speech。
刘知远团队大模型公开课笔记汇总【持续更新中】
m0_52784465的博客
04-23 687
清华大学大模型公开课
大模型学习——【清华NLP】刘知远团队大模型公开课全网首发｜带你从入门到实战（一）
weixin_54379099的博客
10-14 1230
官方网站：https://www.openbmb.org启智社区：https://git.openi.org.cn/OpenBMB。
大模型学习——第二节课（NLP刘知远大模型公开课）
weixin_54379099的博客
10-19 331
CNN vs RNN，RNN（不能并行化）
刘知远大模型学习笔记-大模型微调（fine-tune）
jennieg的博客
03-27 858
由Hugging Face提出，包括许多预训练大模型，能够通过pipeline轻松实现部署应用，我在VSCode中通过虚拟环境实现，需要先pip install transformers。
[学习笔记]刘知远团队大模型技术与交叉应用-汇总
zhangyifeng_1995的博客
01-14 960
视频：【清华NLP】刘知远团队大模型公开课全网首发｜带你从入门到实战[学习笔记]刘知远团队大模型技术与交叉应用L1-NLP&Big Model Basics[学习笔记]刘知远团队大模型技术与交叉应用L2-Neural Network Basics
刘知远大模型学习笔记-Delta Tuning
jennieg的博客
03-27 670
Prompt Learning对于位置任务不太适用，但是认为可以用于多模态。也就是图片与文本理解。Delta Tuning核心思想：绝大多数参数不变，只微调一小部分模型，优化特别少参数。也就是把解决任务抽象为一小部分参数（Delta Objects）。有了预训练大模型，这类方法才有用。分类：Addition，增量式；Specification，指定式；Reparameterization，重参数化式（现在超级常用的LoRA)。提示：以下是本篇文章正文内容，下面案例可供参考。
[学习笔记]刘知远团队大模型技术与交叉应用L6-基于大模型文本理解和生成介绍
zhangyifeng_1995的博客
02-02 720
IR系统分为两个阶段：Retrieval阶段：对整个文档库排序后，抽回一部分相关文档的子集。主要考虑召回率。Re-Rankink阶段：精排序主要的机器问答类型：机器阅读理解、开放域问答、基于知识库问答、对话式QA完形填空多选抽取式阅读理解(原文找答案)data-to-text: 可以把一些非语言性的表示的信息，通过模型，以人类可以理解的语言表示出来。例子：seq2seq比较知名的模型：T5T5是在一个被清洗过的爬取的数据集上训练的。输入时，会将其中一部分mask，在训练和模型策略上。
【Lecture1】清华大学大模型公开课——大模型绪论
xiaoyvhuv的博客
08-22 1116
人工智能是对计算机系统的应用，通过与计算机等学科的深度融合，使得计算机变得更加智能，让计算系统具备智能能力，像人一样行动和思考的学科。大语言模型如何学习知识——三个阶段第一个阶段：自监督预训练：学习大量的不同领域的无标注数据第二个阶段：有监督微调：充分利用高质量标注数据，学习如何理解人类自然语言的意图以及给出更高效的反馈第三个阶段：反馈机制：输入人类对于模型偏好的反馈。
清华大学刘知远大模型课程笔记 prompt learning
04-03
在相关资料中提到的学习笔记涵盖了大模型公开课的内容，其中包括第四讲（L4）涉及的 **Prompt learning 和 Delta learning** 的主题[^1]。这些笔记可能包含了关于如何设计有效的提示词以及通过微调等方式提升模型...
大模型交叉研讨课笔记-2-4.神经网络中的链式法则
weixin_51375278的博客
02-21 857
大模型课程的自学笔记，总结了神经网络输出层的工作和链式法则的计算
2024年有哪些人工智能书籍推荐？
人邮异步社区
01-10 2962
本书深入阐述了大语言模型的基本概念和算法、研究前沿以及应用，涵盖大语言模型的广泛主题，从基础到前沿，从方法到应用，涉及从方法论到应用场景方方面面的内容。最后，讨论了语言模型对环境的影响。本书从技术角度深度解析大模型的原理，从大模型的基础概念及领域发展现状入手，概述大模型的理论基础，介绍OpenAI GPT、清华大学GLM、Meta Llama等主流大模型的技术原理，并从大模型参数高效微调、大模型指令微调、大模型训练优化和大模型推理优化等多角度解析大模型背后的技术，带领读者全方位掌握大模型的原理和实践方法。
大型语言模型的中毒攻击的系统评价
hao_wujing的专栏
06-11 1023
大家读完觉得有帮助记得及时关注和点赞！！！随着预训练大型语言模型 （LLM） 及其训练数据集的广泛使用，人们对与其使用相关的安全风险的担忧显著增加。 这些安全风险之一是 LLM 中毒攻击的威胁，攻击者修改 LLM 训练过程的某些部分，导致 LLM 以恶意方式运行。作为一个新兴的研究领域，当前 LLM 中毒攻击的框架和术语源自早期的分类中毒文献，并未完全适应生成式 LLM 设置。我们对已发布的 LLM 中毒攻击进行了系统评价，以阐明安全影响并解决文献中术语的不一致问题。我们提出了一个全面的中毒威胁模型，适用于
Embedding词嵌入层的文本向量化原理【NLP入门详解】
m0_60610428的博客
06-10 1059
本文深入讲解了 NLP 中词嵌入（Embedding）层的原理与应用，适合初学者理解文本向量化的全过程。文章从分词与词ID映射讲起，阐述词嵌入层如何通过词向量矩阵将离散的词ID转化为连续的语义向量。接着分析了词向量的两种来源：随机初始化与加载预训练词向量（如 Word2Vec、GloVe），并说明了它们各自的适用场景与优势。通过示例代码与图示，帮助读者掌握词嵌入的实际使用方式，并指出其局限与进阶方法，如动态词向量（BERT）与子词建模（FastText）。
语言模型进化论：从“健忘侦探”到“超级大脑”的破案之旅
Ven%的博客
06-13 75
想象一下，你面前站着一位试图理解人类语言的机器人侦探。早期它像个固执的老学究，拿着厚厚一本《语法规则大全》办案：“‘吃苹果’合法，‘苹果吃’非法！”结果案件越复杂，规则手册越臃肿，最终陷入死胡同。
NLP 基础概念
最新发布
m0_64087341的博客
06-13 996
摘要：NLP（自然语言处理）是让计算机理解、生成人类语言的人工智能技术，涉及多学科交叉。其核心任务包括：中文分词（切分连续中文文本）、子词切分（解决词汇稀疏问题）、词性标注（标记单词词性）、文本分类（自动归类文本）、实体识别（提取人名地名等）、关系抽取（识别实体间语义关系）、文本摘要（生成内容概要）、机器翻译（跨语言自动翻译）和自动问答（理解并回答自然语言问题）。这些任务为语言技术发展奠定了基础，广泛应用于信息处理、知识图谱构建等领域。
NLP学习路线图（三十九）：对话系统
2501_91516851的博客
06-11 304
对话系统正重塑人机交互方式，成为自然语言处理的核心应用。文章剖析了对话系统的三大核心技术：自然语言理解（解析用户意图）、对话管理（维护交互状态）和自然语言生成（输出自然回复），并对比了任务导向型与聊天机器人系统的差异。随着大模型发展，系统展现出零样本学习、多模态交互等新能力，在医疗、教育等领域实现深度应用。当前挑战包括个性化服务、持续学习及安全可靠输出，而GPT-4等模型正推动对话系统向复杂推理和更广泛场景演进。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值