LLM 笔记 —— 04 为什么语言模型用文字接龙，图片模型不用像素接龙呢？

最新推荐文章于 2025-12-15 12:15:10 发布
原创 最新推荐文章于 2025-12-15 12:15:10 发布 · 856 阅读 · 15 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#笔记 #语言模型 #人工智能 #自然语言处理 #深度学习

01 引子

生成式人工智能（Generative AI）包含文字，影像，声音三个方面，其中，文字由 Token 组成、影像由 Pixel（像素）组成，声音由 Sample（取样点）组成。因此，生成式人工智能的核心问题是，如何给一段输出，让其利用基本单位组合成一段输出。

在这里插入图片描述

02 Autoregressive Generation (AR)

① 文字接龙

在这里插入图片描述

② 图像“接龙”

在这里插入图片描述

③ 声音“接龙”

在这里插入图片描述

接龙有一个本质的陷阱，即我们需要按部就班的，按照某种特定的顺序，生成越来越长的输出。假设我们要生成一张 1024 * 1024 解析度的图片，需要大约 100 万次接龙！

那么，如何解决这一问题呢，我们可以让模型一次性输出多个位置的答案！

03 Non-autoregressive Generation (NAR)

Au

最低0.47元/天 解锁文章
LLM 笔记 —— 05 有关影像的生成式 AI
Celeste的博客
10-11 745
本文系统介绍了生成式AI在影像处理中的技术原理与应用。主要内容包括：1）影像生成AI的五大类型：图文互转、影像修复、语音生成影像等；2）AI处理影像的机制，通过神经网络对像素进行多维压缩编码；3）训练方法，如使用LAION等开源数据集进行patch接龙训练，并引入CLIP模型评估质量；4）文字生成影片的挑战与优化方案，包括减少Attention运算和分步处理；5）四大经典生成方法（VAE、扩散模型等）及其"脑补"机制，通过联合训练实现信息抽取与生成。文章还探讨了个性化图像生成等前沿应用。
LLM 笔记 —— 01 大型语言模型修炼史（Self-supervised Learning、Supervised Learning、RLHF）
Celeste的博客
10-02 894
在第二个阶段，人类比较辛苦，需要收集大量的资料来告诉模型什么是对的，而到了第三阶段，人类比较轻松，模型对某个问题会给出两个答案，人类只需要判断哪个答案更好一些即可。大型语言模型在训练的过程中，需要不断调整超参数以实现效果的最佳化，因为训练可能会失败，需要更换一组超参数重新训练，超参数的数量是上亿级的，需要大量的算力支持。但是，过度跟虚拟人类学习，训练出来的结果也是有偏差的，今天一些大语言模型的一些不尽如人意的行为，可能就是过度跟虚拟人类学习的结果。吗，答案是不行，我们没有高质量资料，不过，可以对。
阅读笔记——理解什么是LLM大语言模型
2302_80723133的博客
05-28 458
​​定义​​：Token是LLM处理文本的最小单位，相当于语言的"原子"​​类比​​：中文：1个token ≈ 1个汉字或常见词（如"模型"可能为1个token）英文：1个token ≈ 4个字母（如"apple"可能拆为"app"+“le”）每个token都会在模型中生成三个核心向量○ Q 是查询向量○ K 是线索向量○ V 是答案向量候选token：在自注意力机制中，​​候选token​​ 是指当前token在计算注意力权重时，所有可能与之发生交互的其他token。
LLM 大模型安全 | 大语言模型应用安全入门
2301_81888214的博客
07-10 985
在本文中，会以应用安全工程师的视角，汇总梳理有关 LLM 的原理和基础知识，以赋能安全工程师为后续新型使用 LLM 的产品的信息安全保驾护航。
李宏毅LLM大模型——自学笔记（第1讲）
qq_61251579的博客
03-25 814
中文常用字的个数是有限的，我们只要在文字库中找到合适的文字，再将这个文字放在原本问题后面，找到下一个合适的单词，循环下去，直至机器觉得没什么好输出了，就输出结束的符号。再输入一个没见过的x给函式，函式推测出y的值，这叫做测试。找到参数后，把参数代入到函式中，就知道函数长什么样，再输入一张新的图片给函式，看函式推测出什么，这叫做。通过不断输入猫和狗的图片，同时输入图片的标注，机器学习就可以把上万个参数找出来。原本在做生成式AI时，认为是一个很难的问题，因为一段100字的句子是无法穷尽的。
大模型学习 （Datawhale_Happy-LLM）笔记4: 预训练语言模型
lxltom的博客
06-22 449
本章按 Encoder-Only、Encoder-Decoder、Decoder-Only 的顺序来依次介绍 Transformer 时代的各个主流预训练模型，分别介绍三种核⼼的模型架构、每种主流模型选择的预训练任务及其独特优势，这也是目前所有主流 LLM 的模型基础。BERT类模型教会机器“理解语义”，GPT类模型教会机器“生成内容”，T5类模型打通“理解+生成”——它们共同构成了大语言模型（LLM）的技术地基。
LLM 安全 | 大语言模型应用安全入门
2401_84208172的博客
07-31 864
2023年以来，LLM 变成了相当炙手可热的话题，以 ChatGPT 为代表的 LLM 的出现，让人们看到了无限的可能性。ChatGPT能写作，能翻译，能创作诗歌和故事，甚至能一定程度上做一些高度专业化的工作，比如法律服务和医疗诊断咨询。然而，正如任何新技术一样，LLM 也带来了新的挑战和问题。我们如何确保它们的安全性，如何防止它们被用于不良目的？这些都是亟待解决的问题。
【LLM GPT】李宏毅大型语言模型课程
学渣的博客
06-14 2817
gpt的讲解
【李宏毅机器学习2025春】笔记——5.大型语言模型训练方法“预训练-对齐”（Pretrain-Alignment）的强大与极限
RichardSchoolbag的博客
09-06 863
本文探讨了大型语言模型的训练方法，重点分析了预训练-对齐的两阶段过程。研究发现，对齐阶段所需数据量少但质量要求高，通过知识蒸馏和强化学习能显著提升模型性能。预训练阶段需要海量数据（约15T token），数据多样性和质量比重复训练更重要。实验表明，对齐前后模型行为差异主要源于少数关键token的变化，简单的概率调整即可大幅改善输出。文章还指出，预训练中不干净数据会留下难以清除的参数影响。总体而言，对齐阶段能有效激发模型潜力但难以学习新能力，而预训练的数据质量直接决定模型上限。
大语言模型的后训练与“灾难性遗忘”问题——李宏毅2025大模型第六讲笔记
qq_41697157的博客
10-19 855
当你看到这样一个新闻：“某实验室/公司喜报：使用某开源基座模型Q，经过后训练得到模型Q'，Q'在数学编程领域的得分超过Q。” 请思考，Q'真的超过了Q吗？学习本节课，你将了解什么是后训练，为什么后训练会导致模型灾难性遗忘，如何避免模型遗忘知识。
【课程笔记·李宏毅教授】大型语言模型（以ChatGPT为例）能力、原理与实用技巧介绍
这里是数字化与人工智能的 “实验场” 与 “瞭望台”
09-17 1159
ChatGPT等LLM的本质是“基于统计的文字生成器”，它有强大的知识储备和生成能力，但也存在“忽略隐含条件”“产生幻觉（虚构信息）”等局限。要善用它，需掌握“明确需求、提供素材、鼓励思考”等技巧，让它成为学习和工作的“高效工具”。从GPT-1到GPT-4，LLM的进步不仅是“参数量变大、数据变多”，更是“逐步对齐人类需求”的过程。未来，随着多模态、现实互动能力的提升，LLM将在教育、科研、工业等领域发挥更大作用——而理解其原理、掌握其用法，将成为每个人的“必备技能”。
LLM 安全 大语言模型应用安全入门
2401_85773359的博客
08-08 576
第 60 层可能包含一个 John 的向量，其中包含括号注释，例如"（主角，男性，与 Cheryl 有婚姻关系，Donald 的表兄，来自明尼苏达，目前在 Boise ，试图找到他丢失的钱包）"。通过前文的介绍，我们了解了 LLM 的基本原理、GPT 的训练过程、LLM 的缺陷，以及与 LLM 应用安全相关的监管态度和常见的应用安全风险。假设我们采用强化词语接龙的特性的思路，让词语接龙的目标优先级高于内容围栏的优先级，则引出第一种构造越狱提示词的思路，前缀注入(prefix injection)。
运放学习笔记
Z97371539的博客
12-13 574
单电源运放是指仅使用单一电源电压（例如，+5V）和地（0V）作为电源供给的运放。也就是说，它只需要一个正电压和地作为参考电压，而不需要负电压。
先立后破：Linux 下“新建管理员 → 验证 → 禁用 root 远程 SSH”的零翻车笔记
weixin_45626288的博客
12-12 541
本文提供了一套零风险的Linux服务器安全加固流程，重点解决等保2.0要求的"禁用root远程SSH"需求。通过"先立后破"原则，先创建并验证新管理员账号的sudo权限，再禁用root远程登录，全程保持root会话不断开作为应急通道。关键步骤包括：创建新管理员账号、配置sudo权限、严格测试新账号功能、安全修改sshd配置、保留本地root登录权限等。文章特别强调验证环节的重要性，并提供了快速回滚方案，确保运维人员不会因配置失误导致服务器失联。这套方法适用于Kylin
AD学习笔记-36 gerber文件输出
2401_83451707的博客
12-14 295
今天，我们学习如何导出gerber文件，这是我们给板厂的最终文件。
Android学Dart学习笔记第十四节 库和导库
最新发布
weixin_44656996的博客
12-15 757
其他语言中的访问修饰符关键字提供了更细粒度的控制，而Dart使用下划线和基于库的隐私提供了直接的配置机制，有助于高效实现动态访问，并改进了树抖动（死代码消除）。库不仅提供api，还是隐私的单位：以下划线（_）开头的标识符只在库内部可见。当你导入的多个库中，使用了相同的类名时，可以为库起个别名，使用 别名.类名 明确指定所引用的类。使用import来指定如何在另一个库的作用域中使用来自一个库的命名空间。带有通配符_的导入前缀是不绑定的，但可以访问该库中的非私有扩展。
Compose笔记(六十)--TriStateCheckbox
ljt2724960661的博客
12-14 155
 这一节主要了解一下Compose中的TriStateCheckbox,TriStateCheckbox是Jetpack Compose中支持三种状态的复选框组件，相比...
Byzer-LLM：一站式大语言模型全生命周期解决方案
资源摘要信息: "Byzer-LLM 是一款基于 Ray 技术构建的全生命周期管理解决方案，专注于大语言模型（LLM）的开发和应用。该方案覆盖了从模型的预训练、微调、部署到推理服务的整个流程，提供了一站式的管理。Byzer-LLM...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值