还记得第一次和ChatGPT聊天时的诧异吗?它像个无所不知的“百事通”,不仅能陪你谈天说地、写诗作文,还能帮你查资料、写代码……流畅的对话、精准的回答,常常让我们忍不住感叹:“ChatGPT为什么这么聪明?”
人工智能领域专家、《大话大语言模型》作者王符伟对此进行了一番专业、有趣的拆解——用趣味漫画的形式,解读LLM的学习数据从何而来,又是怎样实现精准沟通的?
1、LLM的学习数据从何而来?
在LLM领域,ChatGPT作为AI领域的杰出代表,它们通过深度学习和强化学习等先进技术,从互联网这片浩瀚的信息海洋中汲取知识。这些模型的学习过程,本质上是对网络上海量数据的深度挖掘与理解。以ChatGPT为例,它不仅展现了惊人的文本生成能力,还能够根据上下文进行智能对话,这背后离不开其庞大的数据基础。
那么,ChatGPT究竟学习了哪些数据呢?根据相关学术研究,这类模型主要依赖于被称为“公共爬取”的数据集。这一数据集是通过特定的技术手段,如网络爬虫,从互联网上广泛收集并整理得到的。这些爬虫程序会遍历网页,提取文本信息,并将其汇总成庞大的数据库。此外,像维基百科这样的知名在线百科全书,以及部分经过精心挑选的离线数据,也是LLM学习的重要资源(见图1)。

图1 ChatGPT的出色表现离不开其庞大的数据基础。
这强调了数据在驱动AI进步中的核心作用
在数据规模上,这些模型处理的数据量堪称惊人。在过滤之前,原始数据的容量高达45TB,这相当于数千万本普通书籍的信息量。然而,为了确保模型的准确性和可靠性,研究人员会对这些数据进行严格的筛选和清洗,去除不相关、低质量或不适宜的内容。经过这一系列的预处理后,最终用于模型训练的数据量约为570GB,尽管有所缩减,但仍然是一个极为庞大的数字。
如果将整个网络空间比作一个无垠的图书馆,那么ChatGPT就像是位不知疲倦的读者,他浏览过图书馆中的绝大多数书籍,对网络上公开的教材、资料了如指掌。正是这种对海量数据的深度学习和理解,使得ChatGPT能够在瞬间生成高质量、富有洞察力的文章,为人类的知识获取和交流提供了全新的可能。
国内的LLM,如文心一言(文小言)等,学习数据的来源主要依托于百度多年的搜索引擎积累,学习的数据包括大规模的自然语言文本语料库、多样化的数据集等。这些数据源包括公开的文本数据集、专业的数据集、用户生成的数据以及通过特定技术手段收集的数据等。这些数据为模型提供了丰富多样的训练素材,有助于提升模型的性能和泛化能力。
2、LLM通过深度学习提高精度
在探索LLM精确度提升的道路上,机器学习与强化学习已经展现出了令人瞩目的成效。这些显著进步的背后,与深度学习领域的蓬勃发展紧密相连。深度学习,这一受到人脑工作机制启发而诞生的技术,成为我们理解LLM性能飞跃不可或缺的背景知识。简而言之,正是深度学习的不断演进,为机器学习与强化学习在提升LLM精确度上提供了强大的支撑与无限可能。
在机器学习的广阔天地里,有一个专业术语叫作“特征量”,它就像是给数据打上的标签,帮助机器理解和判断。而深度学习,作为机器学习家族中的一位明星成员,有着独特的魅力:它不需要人类事先设计好特征量,而是能够自己学习并掌握这些关键信息,就像是一个聪明的学生,不需要预先培训,就能在实践中逐渐摸索出学习的门道。
说到深度学习的应用,垃圾邮件检测就是一个生动的例子(见图2)。随着电子邮件在日常生活中的普及,垃圾邮件也如影随形,数量庞大,让人头疼。传统的识别方法渐渐显得力不从心,难以准确区分哪些是有用的信息,哪些是烦人的垃圾。这时候,深度学习就发挥了它的强项—强大的模式识别能力和自动特征提取能力,就像是一双火眼金睛,能迅速准确地识别出垃圾邮件,让我们的邮箱更加清爽整洁。深度学习不仅让机器变得更加智能,也在我们的日常生活中发挥着越来越重要的作用,帮助我们更好地应对各种挑战。

图2 垃圾邮件检测是深度学习的一个重要应用领域,但并非其唯一应用。在实际应用中,还需要结合其他技术和策略来提高检测的准确性和效率
确实,深度学习的能力听起来相当神奇,它确实能够自动完成“贴标签”这样的任务。这背后的奥秘,在于深度学习借鉴了人脑的工作原理。我们的大脑里有着数不尽的神经细胞,它们之间通过神经突触相互连接,传递信息,让我们能够思考、感知世界。
深度学习正是受到这种结构的启发,创造出了“神经网络”这一模型。这个模型就像是一个微型的电子大脑,它有着层层叠叠的结构,每一层都能捕捉到数据中的不同特征。当数据输入到这个神经网络中时,它就像大脑一样开始工作,自动地分析、学习,并给数据贴上正确的标签。
正因为模仿了人脑的结构,所以才能像人类一样独立进行判断。图3是神经网络的结构,一个一个的圆圈相当于人脑中的细胞,连接细胞的线相当于神经突触。

图3 神经网络模仿了人脑的构造,在被称为“中间层”的地方进行各种判断。因其内部工作无法展现,也被称为“隐藏层”,是一种所谓的“黑匣子”操作
深度学习,这一术语直观地揭示了其核心理念—“深度”,意味着学习过程深入到了数据的多个层次。在这一框架下,自然语言等输入信息首先被机器所理解并接纳,随后这些信息会穿越一系列中间处理层,也就是我们通常所说的隐藏层。以垃圾邮件识别为例,这些隐藏层负责分析输入数据,识别出是否蕴含垃圾邮件的特征,并将这一判断结果传递到最终的输出层。
观察图示,不难发现,众多类似人类脑细胞的节点构成了这些中间层,它们紧密相连,协同工作,使得计算机能够模拟出类似人类的思考与判断过程。正是由于这种从输入到输出的多层次结构,深度学习才得名如此。
深度学习具备强大的综合分析能力,能够考虑多种因素,做出接近人类判断的结论。然而,这并不意味着深度学习在所有情况下都是最优选择。实际应用中,根据具体需求和场景,其他方法有时可能达到更高的精确度。因此,在选择是否采用深度学习方法时,必须充分考虑实际目标和条件。
深度学习的中间层工作方式对于外界而言往往如同一个神秘的“黑匣子”(见图4)。这些层级通过复杂的计算和数据处理,对输入信息进行逐层分析和转换,但具体是如何做出判断并导出最终输出的,这一过程并不直观,也难以用简单的语言完全解释清楚。这确实成为将AI技术应用于商业领域时的一个重要课题。

图4 黑匣子特性使得深度学习的决策过程难以直观理解和解释。需要不断探索和开发新的方法和技术,以提高深度学习模型的解释性和透明度
换句话说,深度学习在做出判断时所依据的维度和逻辑,往往隐藏在大量的参数和算法之中,难以直接观察和解释。这种“黑匣子”特性,虽然赋予了深度学习强大的数据处理和模式识别能力,但同时也带来了透明度和可解释性方面的挑战。因此,如何更好地理解和解释深度学习的决策过程,是当前AI研究中的一个重要方向。
换句话说,深度学习在做出判断时所依据的维度和逻辑,往往隐藏在大量的参数和算法之中,难以直接观察和解释。这种“黑匣子”特性,虽然赋予了深度学习强大的数据处理和模式识别能力,但同时也带来了透明度和可解释性方面的挑战。因此,如何更好地理解和解释深度学习的决策过程,是当前AI研究中的一个重要方向。
导入那些无法揭示其内在逻辑与结构的数据处理机制,确实伴随着一定的风险,这一点构成了众多观察者对“黑匣子”式AI系统普遍持有的疑虑核心。因此,近年来,一个新兴领域—可解释的人工智能(XAI)逐渐成为科研与应用领域的焦点。XAI致力于使AI系统的决策过程变得透明且可理解,从而增强人类对AI决策的信任与接纳(见图)。

图5 XAI的崛起推动技术范式从工具论转向责任论,要求开发者通过可解释逻辑主动担责,打破算法黑箱的正确默认。这一转型催生了“AI伦理师”新角色,专职开展算法合规性审查与公平性评估,体现技术治理向过程透明和价值对齐的深化
以电子邮件过滤为例,传统的AI系统可能会自动将某些邮件标记为垃圾邮件,而用户却无从知晓这一判断的依据。而在XAI的框架下,系统能够具体展示那些导致邮件被判定为垃圾的关键词汇或特征,使得决策过程一目了然。这种透明度的提升,对于消除“因为是AI的决定,所以就盲目接受”的心态至关重要,尤其在商业环境中,这种心态往往是不切实际的。
当人类能够理解和认同AI的决策逻辑时,不仅增强了AI技术的可信度,也极大地拓宽了其应用范围。更进一步,如果AI系统能够提供详尽的解释,那么这些系统被创造性地应用于更多场景的可能性便显著增加,从而促进技术与社会经济的深度融合。
然而,值得注意的是,追求可解释性并非毫无代价。在实际应用中,准确性与可解释性之间往往存在微妙的平衡关系。商业决策者在部署AI系统时,必须根据具体目标和情境,审慎地权衡这两者的重要性。在某些情况下,可能需要牺牲一定的可解释性以换取更高的准确性;而在其他场景下,增强可解释性则可能成为优先考虑的因素,以确保决策过程的公正性、合规性及用户的接受度。因此,如何在准确性与可解释性之间找到最佳平衡点,是推动XAI发展、实现AI技术广泛且负责任应用的关键所在。
3、如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】


第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。
这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

159



被折叠的 条评论
为什么被折叠?



