收藏！大模型入门核心知识点全解析 | 小白&程序员必看学习指南

在AI大模型浪潮席卷各行各业的当下，掌握大模型核心知识已成为程序员提升竞争力的必备技能。本文整理了大模型学习的核心知识点，从AI发展脉络到技术细节，再到行业现状，用通俗语言拆解专业概念，附实用工具和案例，小白也能轻松理解，建议收藏慢慢研读！

一、AI的分类

AI的核心目标是让机器具备人类级别的智能能力，能够完成语言理解、图像识别、复杂问题求解等原本需要人类才能胜任的任务。从技术演进来看，AI的发展可分为四个关键阶段，核心差异在于驱动模式和参数规模：

• 早期规则式阶段：以专家系统为代表，完全依赖人工预设的逻辑规则和知识库，灵活性极差，无法应对未预设的场景。
• 机器学习阶段：突破规则限制，通过大量数据训练模型，让机器自主学习数据中的规律，参数规模通常在几十到几百个量级。
• 深度学习阶段：采用神经网络模拟人脑神经元连接结构，可处理更复杂的多维数据，参数规模飙升至几百万个，实现了图像、语音等领域的突破。
• 大模型阶段：以海量数据和超强算力为基础，构建通用性极强的大型模型，参数规模达到千亿级别（如6710亿参数模型），具备跨场景迁移能力。

从应用场景划分，AI可分为生成式AI和分析式AI两大类，具体如下：

• 生成式AI：核心能力是创造全新内容，包括大语言模型（如GPT、DeepSeek、通义千问）和生图/生视频模型（如Sora、DALL-E、Midjourney）。前者可应用于客服咨询、代码生成、文案创作等场景，后者则适用于产品设计草图、影视特效预览、营销素材制作等领域。
• 分析式AI：专注于对现有数据的分析和识别，典型代表有视觉识别模型（YOLO、ResNet）和自动驾驶模型。视觉识别模型可精准识别图像中的物体、人脸、文字，广泛应用于智能制造质检、医疗影像病灶分析；自动驾驶模型则是多技术融合的复合模型，支撑无人配送、高级辅助驾驶等场景。

二、LLM是如何训练的

LLM的训练过程通俗的表述可以参考下图。早些时候是通过监督学习，明确告诉模型“香蕉是什么”；后来模型生成多个答案，人类通过来对答案进行优劣排序的方式训练模型；再后来，模型知道了一些人类的偏好，通过强化学习生成答案，人类通过一些打分机制，使模型进一步自我迭代进化。

早在2018年时GPT的参数量约为1.17亿，预训练数据量约5GB；2019年，GPT-2参数量为15亿，预训练数据量为40GB；2020年，GPT-3的参数量为1750亿，预训练数据为45TB。如今，GPT-5参数量预估约为100万亿。ChatGPT可以实现对用户真实意图的理解，上下文衔接能和及对知识和逻辑的理解能力。

在互联网时代诞生的APP功能越来越复杂，有限的屏幕难以呈现复杂的功能，未来APP极有可能演进为极简页面的对话形式，比如人们在淘宝对话框输入想要的穿搭风格，淘宝自动搜索相应的服装套件，并将其放入购物车。

三、LLM中的Token

Token是大型语言模型处理文本的最小单位。由于模型本身无法直接理解文字，因此需要将文本切分成一个个 Token，再将 Token转换为数字（向量）进行运算。

不同的模型使用不同的“分词器”（Tokenizer）来定义Token（不同模型中同样的文字编码不同）。 例如，对于英文Hello World： GPT-4o 会切分为[“Hello“, ”World“] => 对应的 token id = [13225, 5922] 。对于中文“人工智能你好啊”： DeepSeek-R1会切分为[“人工智能”, “你好”,“啊”] => 对应的token id = [33574, 30594, 3266]。

可以在科学上网模式下，通过https://tiktokenizer.vercel.app/ 查看token映射，例如“人工智能”，在deepseek中占一个token，而在GPT-4o中，则是“人工”和“智能”两个token。除了文本所占的token外，还有分隔符、起如符、结束符也会占用token。

四、Temperature 与Top P的作用

大模型生成文字的过程本质上是概率预测。大模型中的Temperature, Top P则通过调整选择不同概率的Token倾向，来控制 LLM 生成文本的多样性，但两者原理不同。

• Temperature (温度):

原理：在模型计算出下一个Token所有可能的概率分布后，Temperature会调整这个分布的“平滑度”。

高Temperature (如 1.0+)：会让低概率的Token更容易被选中，使生成结果更具创造性，但可能出现不连贯的词语。

低Temperature (如 0.2)：会让高概率的Token权重更大，使生成结果更稳定、更符合训练数据，但会更保守。

• Top P (核采样):

原理：它设定一个概率阈值（P），然后从高到低累加所有Token的概率，直到总和超过P为止。模型只会在这个累加出来的“核心”词汇表中选择下一个Token。

• 高Top P (如0.9)：候选词汇表较大，结果更多样。

• 低Top P (如 0.1)：候选词汇表非常小，结果更具确定性。

举个例子：

假设模型要完成句子：“今天天气真…”

模型预测的下一个词可能是：好(60%)、不错(30%)、糟(9%)、可乐(0.01%)。

高Temperature：会提升所有词的概率，使得“可乐”这个不相关的词也有机会被选中。

Top P (设为0.9)：会选择概率总和达到90%的词。这里好(60%) + 不错(30%) = 90%，所以模型只会从“好”和“不错”中 选择，直接排除了“可乐”这种离谱的选项。

Temperature及Top P可以通过API进行设置。

参考：进入阿里云的dashscope（https://dashscope.console.aliyun.com/），dashscope网页->模型广场->(任选一个模型) API详情，然后找Temperature及Top P参数。

五、AI Chat产品的超能力——联网搜索、读取文件记忆功能

1、联网搜索

通过获取外部信息，弥补LLM训练数据截止日期的限制。

1）当用户提问涉及最新资讯时，系统会识别出这一需求，自动调用搜索工具，并将问题转化为多个简洁的搜索关键词。

2）程序调用搜索引擎API（如Google搜索）获取信息。

3）这些实时信息会作为上下文提供给模型，由模型进行总结和提炼，生成精准且与时俱进的回答。

2、读取文件

大模型一次会话窗口可以容纳32k的文字（大概3万多字），基于“检索增强生成”（Retrieval-Augmented Generation, RAG）的技术，大模型可以一次性读取多个文件（如10万字），并将关键信息提取放入窗口中，这样大模型一次性就可以读取超过32k的内容。

1）当你上传一个文件（如PDF、Word文档）时，系统首先会将其内容分割成小块（Chunks）。

2）通过Embedding技术将这些文本块转化为数学向量，并存储在专门的“向量数据库”中。

3）当你针对文件内容提问时，系统会将你的问题也转化为向量，并在数据库中快速找到最相关的文本块， 最后将这些文本块连同你的问题一起交给模型，生成答案。

比如，上传一份公司财报后，提问“第二季度的利润是多少？” RAG系统能精确定位到财报中相关的片段，让LLM直接使用。

RAG是一个LLM application，LLM看到了文件，发现文件大于 32k，于是调用了RAG能力（即：过滤内容，检索出来相关内容的能力）。

3、记忆能力

LLM本身是无状态的（无记忆能力），每次对话都是一次全新的互动，不记得之前的交流。

为了实现“记忆”，系统会在每次对话时，将最近的几轮问答作为背景信息拼接在一起发送给模型，称为**“短期记忆”或“上下文窗口”**。短期只能记住当前message + LLM response 不超过 32k 的内容。

对于需要长期记住的关键信息，例如你的名字或偏好，系统会通过特定算法提取这些信息，将其存储在用户专属的数据库中，在后续的对话中，系统会先从数据库中读取，为模型提供更个性化的背景知识。

比如，告诉AI“我喜欢简洁的回答风格”，系统会记录这一偏好。下次提问时，它就会倾向于给出更简练的答复。

六、全球AI发展现状

全球AI模型发展现状（中美对比）：

• 美国：OpenAI、Anthropic、Google、Meta等公司主导前沿模型，如GPT-4o、Claude 4 Sonnet、Gemini 2.5 Flash。

• 中国：DeepSeek（如R1、V3）、阿里巴巴（如Qwen3）、Moonshot等公司快速追赶，部分模型（如Kimi K2, DeepSeek R1）已接近美国前沿水平。

• 关键趋势：中国模型在2024年显著缩小与美国的差距，尤其在推理模型和开源模型领域表现突出。

• 其他地区：法国（Mistral）、加拿大（Cohere）等也有前沿模型，但中美仍是主导力量。

七、出品限制与硬件影响

美国对华限制：

• 时间线：2022年10月首次限制（H100、A100），2023年10月升级（H800、A800受限），2025年1月新增“AI扩 散规则”。

• 当前状态：仅H20、L20等低性能芯片可出口中国，未来可能进一步收紧。

• 影响：中国依赖国产芯片（如华为昇腾）或降级版NVIDIA芯片（如H20，算力仅为H100的15%）。

硬件性能对比：

• NVIDIA H100：989 TFLOPs，3.35 TB/s带宽。

• NVIDIA H20：148 TFLOPs，4 TB/s带宽（专为中国市场设计）。

• AMD MI300X：1307 TFLOPs，5.3 TB/s带宽（未受限制）。

八、中国AI公司概览

大科技公司：

• 阿里巴巴：通义千问（Qwen）系列，Qwen3

• 百度：文心一言（Ernie 4.0 Turbo）

• 腾讯：混元大模型（HunyuanLarge）

• 字节跳动：豆包（Doubao1.6 Pro）

• 华为：盘古5.0（Pangu 5.0 Large）

初创公司：

• DeepSeek：R1、V3，开源模型表现优异。

• Moonshot：Kimi K2，专注长上下文窗口。

• MiniMax：Text-01，多模态能力突出。

• 其他：智谱AI（ChatGLM）、百川智能（Baichuan）等。

最后

如今技术圈降薪裁员频频爆发，传统岗位大批缩水，相反AI相关技术岗疯狂扩招，薪资逆势上涨150%，大厂老板们甚至开出70-100W年薪，挖掘AI大模型人才！

技术的稀缺性，才是你「值钱」的关键！

具备AI能力的程序员，比传统开发高出不止一截！有的人早就转行AI方向，拿到百万年薪！👇🏻👇🏻

是不是也想抓住这次风口，但卡在 “入门无门”？

• 小白：想学大模型，却分不清 LLM、微调、部署，不知道从哪下手？
• 传统程序员：想转型，担心基础不够，找不到适配的学习路径？
• 求职党：备考大厂 AI 岗，资料零散杂乱，面试真题刷不完？

别再浪费时间踩坑！2025 年最新 AI 大模型全套学习资料已整理完毕，不管你是想入门的小白，还是想转型的传统程序员，这份资料都能帮你少走 90% 的弯路

👇👇扫码免费领取全部内容👇👇

部分资料展示

一、 AI大模型学习路线图，厘清要学哪些

一个明确的学习路线可以帮助新人了解从哪里开始，按照什么顺序学习，以及需要掌握哪些知识点。大模型领域涉及的知识点非常广泛，没有明确的学习路线可能会导致新人感到迷茫，不知道应该专注于哪些内容。

我们把学习路线分成L1到L4四个阶段，一步步带你从入门到进阶，从理论到实战。

L1级别:大模型核心原理与Prompt

L1阶段： 将全面介绍大语言模型的基本概念、发展历程、核心原理及行业应用。从A11.0到A12.0的变迁,深入解析大模型与通用人工智能的关系。同时,详解OpenAl模型、国产大模型等,并探讨大模型的未来趋势与挑战。此外,还涵盖Pvthon基础、提示工程等内容。
目标与收益:掌握大语言模型的核心知识,了解行业应用与趋势;熟练Python编程,提升提示工程技能,为AI应用开发打下坚实基础。

L2级别：RAG应用开发工程

L2阶段： 将深入讲解AI大模型RAG应用开发工程,涵盖Naive RAGPipeline构建、AdvancedRAG前治技术解读、商业化分析与优化方案,以及项目评估与热门项目精讲。通过实战项目，提升RAG应用开发能力。

目标与收益: 掌握RAG应用开发全流程,理解前沿技术,提升商业化分析与优化能力,通过实战项目加深理解与应用。

L3级别：Agent应用架构进阶实践

L3阶段： 将 深入探索大模型Agent技术的进阶实践,从Langchain框架的核心组件到Agents的关键技术分析,再到funcation calling与Agent认知框架的深入探讨。同时,通过多个实战项目,如企业知识库、命理Agent机器人、多智能体协同代码生成应用等,以及可视化开发框架与IDE的介绍,全面展示大模型Agent技术的应用与构建。

目标与收益:掌握大模型Agent技术的核心原理与实践应用,能够独立完成Agent系统的设计与开发,提升多智能体协同与复杂任务处理的能力,为AI产品的创新与优化提供有力支持。

L4级别:模型微调与私有化大模型

L4级别： 将聚焦大模型微调技术与私有化部署,涵盖开源模型评估、微调方法、PEFT主流技术、LORA及其扩展、模型量化技术、大模型应用引警以及多模态模型。通过chatGlM与Lama3的实战案例,深化理论与实践结合。

目标与收益:掌握大模型微调与私有化部署技能,提升模型优化与部署能力,为大模型项目落地打下坚实基础。

二、 全套AI大模型应用开发视频教程

从入门到进阶这里都有，跟着老师学习事半功倍。

三、 大模型学习书籍&文档

收录《从零做大模型》《动手做AI Agent》等经典著作，搭配阿里云、腾讯云官方技术白皮书，帮你夯实理论基础。

四、 AI大模型最新行业报告

2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

五、大模型大厂面试真题

整理了百度、阿里、字节等企业近三年的AI大模型岗位面试题，涵盖基础理论、技术实操、项目经验等维度，每道题都配有详细解析和答题思路，帮你针对性提升面试竞争力。

六、大模型项目实战&配套源码

学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。

适用人群

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】