人人都能看懂的 ChatGPT 原理课:从 GPT1.0 到 ChatGPT，经历了什么？

最新推荐文章于 2024-11-21 20:08:18 发布
最新推荐文章于 2024-11-21 20:08:18 发布
阅读量743 收藏
点赞数
分类专栏： 2025年机器学习&深度学习千例 文章标签： chatgpt 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/m0_68036862/article/details/131198315
版权
本文介绍了ChatGPT的发展历程，从GPT初代到ChatGPT，涉及语言建模、大模型、对话模式和强化学习。GPT系列通过不断迭代和优化，实现了小样本学习和更智能的对话。ChatGPT利用强化学习，不再受限于已有数据，能应对未见过的问题。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

目录

GPT 初代

GPT 的语言建模

语言模型的编解码

GPT-2

GPT-3

大模型中的大模型

对话模式

小样本（Few-Shot）学习

ChatGPT

强化学习

总结

尽管 ChatGPT 像是一颗核弹，突然在全世界媒体上引爆了。但是，ChatGPT 并不是 OpenAI 天降神力直接横空出世的，而是 OpenAI 历经多年，不断迭代、不断优化模型的结果。

GPT 是 OpenAI 发布的一系列模型的总称。主要经历了 GPT 初代、GPT2.0、GPT3.0、GPT3.5、ChatGPT，目前已经有了 GPT4，未来还会有 GPT-n 等等，模型之间有很强的关联。这几个模型的关系如下图所示：

ChatGPT 中的很多技术点，都是由前几代模型设计并运用的，学习 ChatGPT 技术原理，势必要学习了解早期 GPT 模型的发展脉络。若把 ChatGPT 比作一个健康聪明的青年人，那么早期的模型就是他的婴儿时期、青少年时期，GPT 的发展历程像是朝着模拟人类发展。

GPT 初代

早在 2018 年，OpenAI 制作了一个名为 GPT 的模型，也就是 ChatGPT 的婴儿阶段。这个 GPT 初代模型，在很多 N

了解本专栏 订阅专栏 解锁全文
LLMs之ChatGPT：ChatGPT核心技术原理讲解之OpenAI 联合创始人Karpathy在微软年度开发者大会的演讲分享《State of GPT》如何训练GPT+RLHF对比SFT+如何使用
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
05-31 192
​ LLMs之ChatGPT：ChatGPT核心技术原理讲解之OpenAI 联合创始人Karpathy在微软年度开发者大会的演讲分享《State of GPT》如何训练GPT+RLHF对比SFT+如何使用GPT？ LLMs之ChatGPT：ChatGPT核心技术原理讲解之训练GPT(预训练阶段【数据收集→token 化→超参数→批组化→评估模型→微调下游任务/少样本prompt】+SFT监督式微调阶段+RLHF【奖励建模+RL】+ChatGPT(RLHF模型)对比 Kuna(SFT模型)、使用 GPT(序
ChatGPT技术原理解析：从RL之PPO算法、RLHF到GPT4、instructGPT
u013250861的博客
07-28 287
自从我那篇Transformer通俗笔记一经发布，然后就不断改、不断找人寻求反馈、不断改，其中一位朋友倪老师(之前我司NLP高级班学员现课程助教老师之一)在谬赞Transformer笔记无懈可击的同时，给我建议到，“后面估计可以尝试尝试在BERT的基础上，讲一讲prompt学习了”
GPT-1、GPT-2和GPT-3模型详解及其进化之路
皮皮blog
09-22 5545
原文[OpenAI gpt模型基于Transformer的语言模型，其利用Transformer的decoder结构来进行单向语言模型的训练。GPT的核心思想是先通过无标签的文本去训练生成语言模型，再根据具体的NLP任务（如文本蕴涵、QA、文本分类等），来通过有标签的数据对模型进行fine-tuning。文中所用的网络结构如下：​。
ChatGPT的训练数据是什么？
2301_78240434的博客
05-25 2237
具体来说，OpenAI使用了一种称为无监督学习的方法，这意味着他们并没有对模型进行针对性的手动标注，而是从互联网上采集了大量的文本数据，以自动学习语言模型的模式和结构。值得注意的是，具体的训练数据集的规模和内容是不公开的，OpenAI并没有透露具体的数据集细节。这些包括小说、非小说类图书、科学论文、历史著作等。通过使用书籍和文学作品，ChatGPT可以学习到更加丰富和复杂的语言表达方式，以及不同领域的知识。通过使用书籍和文学作品，ChatGPT可以学习到更加丰富和复杂的语言表达方式，以及不同领域的知识。
ChatGPT 1.0.0安卓逆向分析，仅限中国分享
u011312432的专栏
07-26 5699
本文将对ChatGpt Android版本1.0.0 APK进行静态解包分析和抓包分析，从ChatGpt Android APK功能的设计、校验过程和代码内包含的信息来预测OpenAI的大致走向。
GPT-1和GPT-2的发展
hyzhyzhyz12345的博客
02-05 4677
OpenAI在2018年提出来的一个方法——GPT 1.0，GPT 1.0采取预训练+FineTuning两个阶段，它采取Transformer的decoder作为特征抽取器，总共堆叠12个。预训练阶段采用“单向语言模型”作为训练任务，把语言知识编码到decoder里。第二阶段，在第一阶段训练好的模型基础上，通过Finetuning来做具体的NLP任务，迁移能力强。注意在Decoder 中，使用了...
GPT1.0 和 GPT2.0 的联系与区别
最新发布
爱猫的小学森
11-21 1486
GPT1.0与GPT2.0的浅析。
从13亿到1.4万亿，探究chatGPT-4和chatGPT-5语言生成模型的巨大差距
canshanyin的博客
04-26 4332
chatGPT-4是由OpenAI研发的一种基于Transformer架构的大规模语言生成模型，参数量为13.3亿个。它可以生成语言内容，在自然对话中表现良好，并有一定的情感理解能力。chatGPT-5则是由EleutherAI团队研发的模型，与chatGPT-4相似，也是基于Transformer架构，不过其拥有更强大的表达能力。chatGPT-5具有超过了1.4万亿个参数的规模，比chatGPT-4多了近10倍的参数，这使得它可以在自然语言生成的任务中表现出更强大的能力和更高的生成质量。
chatGPT之Python API启用上下文管理
热门推荐
玖河长久
03-14 4万+
还有一个重要的点：提交的这些数据都会计算进tokens里面包括chatGPT回复的时候（最多4096个tokens），如果你想让上下文管理能记忆更多的语料，那么在提交数据的时候就尽可能的增加你们之间对话的内容（同时会更快的消耗你的tokens）。我也是参考官方文档去阅读和理解的，但是有时候官方文档以为你很懂了，就没有太多说明，废话不多说下面我跟大家讲一下API调用时如何启用上下文管理的。为什么别人的机器人能联想之前的语料，而你的却像个每次都只如初见的高冷机器人？需要注意的是，提交的数据结构顺序必须是。
我每天如何使用 ChatGPT
KevinDai007的博客
01-23 3545
我偶尔会用这个功能作为开始。我本人非常喜欢阅读，让 ChatGPT 来概括所有文章，感觉就像身处于但丁描述的地狱的某个层次那样痛苦。然而，有时一些文章实在是太啰嗦、无聊，或者写得让人不愉快（比如一个无趣记者对一个让人讨厌的人进行的漫无焦点的采访）。我需要获取这些文章中的一些信息，以便保持信息的更新和了解。在晚期资本主义的广告经济下，很多文章只在一个段落里提供新信息，其余都是无聊的填充内容，只是为了展示糟糕的广告，这实在是对人们的时间和生命的一种浪费。我有几次利用 ChatGPT 来。
GPT-1/GPT-2/GPT-3/GPT-3.5 语言模型详细介绍
强化学习曾小健
06-23 8076
从上图中可以看到，base模型是绿色的，RL Policy是灰色的，他们两个都会根据同样的Prompt来输出不同的结果，而接下来就是把两个模型的Reward分数拉的尽可能的大，使得两个的差别越大越好，所以在下面的公式当中，利用了KL DIvergence来衡量两个模型之间分布的差异。实际上船长在这里插一嘴，GPT3.5的RM标注数据，会使用到一些硬性的，主观性不是那么强的指标，例如是否回答问题，是否为低俗色情等等，但是不会完全依赖于这些指标，为什么呢？根据验证集上的RM分数进行最终的SFT模型选择。
原来，ChatGPT原理这么简单！
2401_84205765的博客
10-30 955
ChatGPT的成功不仅仅是技术的胜利，更是对人类语言和思维模式的一种深刻理解。它表明，人类语言在结构上可能比我们想象的更简单、更规律。这可能是一次智能水平提升的巨大机遇。
【论文笔记】——从transformer、bert、GPT-1、2、3到ChatGPT
weixin_46340912的博客
03-23 7716
本文介绍了GPT-2模型，与GPT相比，GPT-2模型更大，有12到48层，最大的48层包含1542M的参数量。GPT-2主要测试是zero-shot setting下完成的，它具备强大的语言理解能力，同时也具备了一定的生成能力，测试的一些生成任务如摘要，翻译等已经超过了一些简单的baseline。在一个新数据集WebText上训练，是百万级别的；提出GPT-2，参数量1.5B，15亿；提到zero-shot；提出GPT-3，参数量1750亿；
浅析ChatGPT-神经网络
andyyah晓波的博客
06-26 1249
给定神经元的值是这样确定的：先分别将其“前一层神经元”的值乘以相应的权重并将结果相加，然后加上一个常数，最后应用一个“阈值”（或“激活”）函数。在此过程中，我们“识别”出这个图像，最终“形成”我们“正在看数字 2”的“想法”（也许最终会做一些像大声说出“二”这样的事情）。但值得注意的是，一些神经网络（像上面展示的这个）的前几层似乎会挑选出图像的某些方面（例如物体的边缘），而这些方面似乎与我们知道的大脑中负责视觉处理的第一层所挑选出的相似。在“每个吸引子盆地的中心”，我们通常能确切地得到想要的答案。
GPT和GPT2.0
guohui_0907的博客
07-29 479
1 面临的挑战 尚不清楚哪种类型的优化目标在学习对迁移有用的文本表示方面最有效。 将这些学习的表示迁移到目标任务的最有效方法没有达成共识。 2 方法介绍        针对各种语言理解任务，论文介绍了一种半监督的学习方法，它包含无监督的预训练阶段和监督的微调阶段。这种方法的目标是将预训练阶段学习到的通用表示迁移到具体的任务中...
语言模型串烧
Write down something
01-14 723
语言模型串烧Word2Vec（2013年1月）GloVe（2014年1月）FastText（2016年7月）Transformer（2017年6月）Positional EncodingMulti-head self attentionFully connected feed forwardELMo（2018年2月）BERT（2018年10月）Transformer-XL（2019年1月）GPT-...
GPT1、GPT2、GPT3原理
ywm_up
12-05 1万+
文章目录GPT-1：无监督学习GPT-1原理介绍预训练模型（无监督）fine-tuning（有监督）小结GPT-2：多任务学习GPT-2的改进模型参数为什么GPT-2能够适应多任务？GPT-3：海量参数AbstractIntroduction GPT-1：无监督学习 GPT-1原理介绍 GPT模型主要包含两个阶段，第一个阶段，先利用大量未标注的语料预训练一个语言模型，接着，在第二个阶段对预训练好的语言模型进行微改，将其迁移到各种有监督的NLP任务，并对参数进行fine-tuning。 预训练模型（无监督）
【ChatGPT】GPT 模型的发展历史：从 GPT-1 到 GPT-2 到 GPT-3 到 GPT-4
AI天才研究院
03-23 2万+
自注意力机制：Transformer模型中引入了自注意力机制，通过对输入序列中的每个元素进行自注意力计算，得到每个元素在序列中的重要程度，从而可以对序列中的不同元素进行加权求和，得到对序列的特征表示。多头编码器-解码器注意力层（Multi-Head Encoder-Decoder Attention Layer）：将注意力输出与编码器输出进行计算，得到编码器-解码器的注意力得分，并根据得分对编码器输出的向量进行加权求和，得到一个新的向量表示，即编码器-解码器注意力输出。
Paper简读 - ChatGPT相关的GPT-1、GPT-2、GPT-3
AGI
02-06 8338
GPT、GPT-2、GPT-3：Generative Pre-trained Transformer，生成式预训练Transformer。
"ChatGPT工作原理深度分析：从GPT-3到RLHF的探索
在剖析GPT-3的局限性以及从其训练过程中产生的原因后，我们可以看到，GPT-3在生成文本中存在一些失真和偏见，这些问题正是ChatGPT所需要解决的。为了解决这些问题，OpenAI使用了RLHF的训练方法来调优ChatGPT。RLHF...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

人工智能_SYBH

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值