- 博客(49)
- 收藏
- 关注
RSS订阅原创 让 AI 边玩游戏边编写世界规则：从 XLand 到 ARC-AGI-3 的实验记录
做完这一轮，我会把三件事分开看。第一，程序变短是否能够保留预测能力。这方面有 XLand 和冻结 TWIN 模型的实测支持。第二，决策指引能否改善通关表现。FT09 有一组正面配对，SC25 也有一次问题驱动方案的完整通关。第三，探索设计能否减少总体成本。这仍然需要同时看动作、请求和时间。在最新的 SC25 样本里，代理确实少走了路，同时花了更多计算。这个差异也是我从早期比较规则代码长度，转向记录动作证据、关卡复盘和请求开销的原因。
2026-11-08 13:24:07
191
原创 从 LLM 到可用 AI Agent
Agent 是一个围绕目标持续观察、判断并采取行动的应用程序。LLM 是核心决策器，但不是整个 Agent。普通 LLM 调用通常是“一次输入，一次输出”。Agent 则会在多轮内部循环中，根据工具返回的真实结果修正下一步行动。因此，Agent 的关键不在于回答得更长，而在于它能够形成 目标 → 行动 → 观察 → 调整 的闭环。
2026-11-08 13:06:05
115
原创 把陌生游戏的规则写成代码｜从 XLand 到 ARC-AGI-3 的实验记录
想象一下，你打开一个从没玩过的格子游戏。画面上有一扇门、几个物体和一块会变色的地板，游戏没告诉你它们有什么用。你走一步，看到某个物体变了颜色。接下来，你要决定是再试一次确认规律，还是利用这条线索去开门。你甚至还不知道开门是不是这一关的目标。我做的实验，就是让语言模型自己完成这个过程。它边玩边把猜到的规则写成可以运行的程序，用程序预测动作结果，拿真实反馈修订，再决定怎么走。这条路线有几个独立的结果。XLand 上，程序缩小了约 11%，固定测试上的预测正确数略有增加。
2026-11-05 21:06:34
340
原创 Code as World 两类研究报告
第二类中，VisPhyWorld 通过视频重建评测物理理解，Code-as-World 利用仿真记录构建训练数据，EMPIRIC 补充缺失机制，ATW 在回答时主动构建和使用仿真世界。② 单个世界内的测试时训练：针对一个新任务，用其已有示范训练新的适配器，再预测严格保留的测试样例；作者主要在三个环境中进行实验：Sokoban（推箱子游戏，需要将箱子推到指定位置）、MiniGrid（网格世界任务环境，包含导航、寻找目标、开门等任务）和 ALFWorld（模拟家庭环境中的交互任务，例如寻找、移动和放置物品）。
2026-10-21 18:45:37
202
原创 RAG ENGINEERING · 中文教程从文档到可靠答案
一条完整的 RAG 链路，不是把文本塞进 Vector Database 就结束。真正决定结果的，是 Data Loading、Chunking、Metadata、Embedding、Retrieval、Rerank、Generation 与 Evaluation 如何协同。
2026-06-14 14:07:14
867
原创 Reflexion：让 Agent 从错误中学习
这里的“学习”主要发生在上下文与记忆中，不等于更新 LLM 的权重。因而它比重新训练或 Fine-tuning 更轻量，也更容易观察 Agent 是如何修正策略的。Reflexion 将一次任务拆成执行、评价和反思三个职责。它们可以由不同模型承担，也可以由同一个 LLM 使用不同 Prompt 分别扮演。Reflexion 是一种面向语言智能体的学习框架。它把环境反馈转写成自然语言形式的。可以把 Reflexion 理解成一个带复盘能力的 Agent loop。，再将这些经验加入后续上下文。
2026-06-14 03:39:30
207
原创 ReAct：让大模型一边推理，一边行动
ReAct 将与放进同一个循环。模型不再只靠已有知识直接作答，而是先判断下一步，再调用搜索、数据库、计算器或其他工具，用真实结果继续推进任务。
2026-06-14 03:24:29
244
原创 Chain-of-Thought Prompting
是一种面向推理任务的提示方法。它不只要求模型输出最终答案，还通过示例或指令，引导模型生成若干中间推理步骤。普通提示往往采用“问题 → 答案”的形式。CoT 则把过程展开为“问题 → 条件识别 → 分步推导 → 结果检查 → 答案”。这种结构更适合多步计算、常识推理、符号推理和需要明确约束的任务。
2026-06-14 03:10:23
223
原创 Few-shot Prompting：让模型从示例中理解任务
与其反复解释“应该怎么做”，不如给模型看几份合格样例。Few-shot Prompting 的本质，是利用上下文中的 demonstrations 暂时建立一套任务规则。是指在 Prompt 中放入少量输入—输出示例， 让 Large Language Model 在不更新参数的情况下，根据这些示例推断任务规则， 再处理后面的新输入。
2026-06-13 18:27:43
434
原创 Prompt Engineering完整教程
Anthropic 的官方文档把这一点放在 Prompt Engineering 之前：你需要先有明确的 success criteria、能对照这些标准进行测试的方法，以及一份准备改进的初稿。否则，所谓“优化”只会变成凭感觉修改文字。例如，你要做一个客服分类器，目标不能只写“分类准确”。更可操作的标准是：在 300 条人工标注样本上，一级类别 Macro-F1 不低于 0.92；对于无法判断的输入必须返回UNKNOWN；输出只能是符合 JSON Schema 的对象；P95 延迟低于 2 秒。
2026-06-13 16:45:59
481
原创 多轮对话不只是“记住聊天记录”
从 OpenAI到 Claude： 一个负责把上下文接起来，一个负责在会话中途改变高优先级规则。理解这两个概念，才能真正搭好可持续运行的 AI 应用。
2026-06-13 00:07:48
467
原创 让大模型从“会回答”走向真正调用业务系统
tools = [{"查询当前登录用户的一笔订单。只读取状态，不修改订单。),"description": "订单编号，例如 A1024"},},}]"content": "帮我查一下订单 A1024 到哪里了。}]
2026-06-13 00:07:37
428
原创 从 JSON Schema 到 Structured Outputs
让大模型输出的不再是“看起来像 JSON 的文本”，而是能够被程序稳定消费、校验和落库的结构化数据。在 AI 应用里，最难处理的往往不是模型“会不会回答”，而是它能不能按照程序需要的形状回答。字段缺失、类型错误、额外解释文字、数组层级变化，任何一种情况都可能让后续代码直接报错。
2026-06-12 18:47:54
366
1
原创 从 Chat Completions 到 Responses API再看懂 Claude 的 stop_reason
它把文本、图像、文件、工具调用、工具结果、reasoning item 和 assistant message 都放进统一的 item 体系中。它们是标准的 HTTP API，可以由本地 Python 脚本、Node.js 服务、服务器后端、命令行程序或云函数发起。你现在使用的 ChatGPT 网页同样具有聊天界面、模型调用和流式输出，但它是完整产品，不等同于“浏览器拿着你的 OpenAI API key 直接请求。关键不是死记字段，而是把它们映射到“完成、截断、调用工具、拒绝、继续、失败”这几类状态。
2026-06-12 14:00:13
559
原创 Chat Completions、Responses API 与 Claude Messages API：别只看名字，要看输入结构
这三个接口都能让模型“回一句话”，但它们的设计重心并不一样。Chat Completions 更像经典聊天入口；Responses API 更像 OpenAI 新一代统一入口；Claude Messages API 则坚持清晰的 message history 组织方式，并强调 stateless 调用。
2026-06-12 12:20:53
279
原创 读懂 SamplingParams：让大模型输出更可控
很多时候，模型“答得好不好”不只取决于模型本身，也取决于你怎么设置 decoding。就是 vLLM 里控制输出风格、长度、停止条件、概率信息和约束生成的核心入口。SamplingParams 不是“玄学调参”，它是在管模型下一步怎么选 token大模型每次生成文本，本质上是在一堆候选 token 里选下一个 token。负责规定“候选范围多大”“选择要不要随机”“是否惩罚重复”“什么时候停下”“要不要返回概率信息”等规则。在 vLLM v0.6.4 中，
2026-06-12 01:04:05
432
原创 Token 是什么？为什么你写的 prompt 会影响价格和上下文长度
如果你只是日常聊天，没必要时时刻刻计算 token。知道它大概影响上下文长度和费用就够了。但如果你在做 API 项目，尤其是 RAG、长文档问答、代码生成、批量文本分析、日志审计、 医学报告处理，那 token 就不是一个抽象概念，而是系统设计的一部分。token 是模型眼里的文字单位，也是 API 成本、上下文长度和系统稳定性的共同入口。理解 token，不是为了背概念，而是为了少踩“为什么超长了”“为什么变贵了”“为什么模型没看到前文”的坑。
2026-06-11 22:47:08
534
原创 GAN（Generative Adversarial Network）生成对抗网络
GAN，全称是。它最核心的思想不是“我直接告诉模型怎么生成一张图片”，而是设计一个对抗场景，让两个模型互相竞争、互相逼迫，最后把生成能力训练出来。你可以把 GAN 想象成一个“造假者”和一个“鉴定师”的训练过程。一开始，造假者水平很差，画出来的东西一眼假；鉴定师也很普通，只会分辨一些很明显的真假。然后训练开始：造假者不断尝试生成假图片，想骗过鉴定师；鉴定师不断学习真实图片和假图片之间的区别，想把造假者抓出来。随着训练进行，鉴定师越来越会看细节，造假者也被迫越来越会模仿真实数据。
2026-06-03 15:54:19
428
原创 关注我，带我彻底学会Transformer
在学习 Transformer 之前，最好先不要急着背公式。Transformer 之所以重要，不是因为它的结构看起来复杂，而是因为它解决了一个很核心的问题：模型如何在一组输入中判断“哪些信息和当前判断有关”。无论是处理一句话、一张图像，还是一个病人的 CT、MR 和临床指标，本质上都需要模型从一堆信息里找关系、做融合，最后形成一个可以用于分类、生成或预测的表示。传统的 RNN、LSTM 更像是按顺序读信息。比如一句话从第一个词读到最后一个词，前面的信息通过隐藏状态传到后面。
2026-06-02 18:05:29
399
原创 Transformer中self attention与cross attention的区别
比如一句话里有很多词，一个词的含义往往不是孤立的。“肿瘤边界不清晰”里面，“边界”需要结合“肿瘤”和“不清晰”理解。再比如做机器翻译时，模型生成中文词语时，需要回头看英文原文。生成“我”时，要参考 “I”；生成“爱”时，要参考 “love”。这两种场景都需要 attention，但信息来源不同。这就引出了 self-attention 和 cross-attention 的区别。
2026-06-01 17:11:33
392
原创 Temperature 和 Top-p 到底在调什么？从大模型生成原理讲清楚这两个参数
很多人第一次注意到 temperature 和 top-p，并不是在论文里，而是在产品界面里。比如在 Google AI Studio 的 Run settings 面板中，就可以直接调整 model parameters；如果你改用 Gemini API，也会在里看到topP这样的字段。也就是说，这两个参数不是学术讨论里的边角料，而是今天实际调用大模型时就摆在开发者面前的“生成控制旋钮”。问题也因此很自然：它们到底在控制什么，为什么只改一个小数，模型的输出风格就会明显变化？
2026-04-18 00:31:28
492
原创 为什么先安慰，比先讲道理更有效（为什么这里会有这么一篇博客）
多人都经历过这样的场景。女生跟男朋友说，今天真的很委屈，很难受。她本来期待的是一句“我懂你”“你今天一定很撑”“这不是你的错”。结果男生下一秒开始分析：那你以后别这样说，你应该先找老师，你可以把流程改成这样，我给你列三个解决办法。说完以后，男生觉得自己很认真、很负责，女生却更生气了，觉得“你根本没有在安慰我”。这类冲突，表面上像是“一个要情绪价值，一个只会讲道理”，但它背后并不是一句简单的“男女天生不同”就能解释。更准确的说法是：男女之间也许存在一些平均层面的差异，但远没有大到可以把所有人分成两种机器。
2026-04-17 22:45:49
346
原创 MoE 模型：让大模型学会分工合作
这几年，大模型的发展一直在追求一件事：让模型更强。最直接的办法当然是扩大参数量，因为参数越多，模型能容纳的知识和模式通常也就越多。但问题也很现实，参数变大之后，训练成本会更高，推理也会更贵。尤其在用户真正使用模型时，如果每次回答一个问题都要完整调用整个超大模型，那这种代价很快就会变得难以承受。所以，大模型很快遇到了一个核心矛盾：我们想要更大的模型容量，但又不希望每次计算都把所有参数全部用上。
2026-04-17 14:00:04
549
原创 CT 图像与 MR 图像：医学影像中最常见的两种“看人体的方法”
CT，全称 Computed Tomography，中文通常叫计算机断层扫描。它的基本原理是利用 X 射线穿过人体，不同组织会对射线产生不同程度的吸收和衰减，机器再根据这些衰减信息重建出人体内部的横断面图像。如果把人体想象成一整块物体，普通 X 光更像是“从外面拍一张投影”，而 CT 则是“把人体切成很多层，一层一层地看”。因此，CT 图像本质上是一组三维体数据中的连续切片，每一个像素或体素都对应一个密度相关的数值，临床上常用 HU，也就是 Hounsfield Unit，来表示。
2026-04-16 19:54:46
321
原创 生境分析：把肿瘤从“整体”拆解为“亚区”
在肿瘤影像研究中，传统放射组学通常把整个肿瘤视作一个整体：先勾画肿瘤区域，再统一提取纹理、灰度、形状等特征，用来预测分型、预后或治疗反应。这种方法简洁实用，但有一个天然局限：它默认肿瘤内部可以被平均处理。可真实情况并非如此，同一肿瘤内部往往同时存在坏死区、强化实质区、浸润边缘区、水肿区等不同部分，这些区域在血供、细胞密度、侵袭性和微环境状态上都可能明显不同。把它们混在一起分析，往往会稀释真正关键的局部信息。生境分析正是在这一背景下受到关注的方法。
2026-04-16 15:16:44
663
原创 世界模型是什么：从 Sora 到 JEPA，看 AI 如何尝试“理解世界”
所谓世界模型，可以先把它理解成：AI 在内部建立的一套“世界运行规律”的表示。它不只是识别眼前看到了什么，更重要的是知道当前世界处在什么状态、接下来可能怎么变化，以及某个动作会带来什么后果。Yann LeCun 在 2022 年的《A Path Towards Autonomous Machine Intelligence》中把 world model 描述得很明确：它一方面要补全感知没有直接给出的信息，另一方面要预测未来可能出现的世界状态；
2026-04-16 00:21:18
869
原创 马斯克点赞的 Attention Residuals：Kimi 如何重写 Transformer 的残差连接
在讲大语言模型时，大家最熟悉的 usually 是 attention（注意力机制）。它决定当前 token 该看前面哪些 token。。论文的判断很直接：今天的大模型在序列维度上已经学会了“选择性关注”，但在深度维度上，很多模型还在沿用一种相当机械的做法——前面所有层的输出一股脑往后累加。作者认为，这种做法在模型越来越深时，会带来信息稀释和状态膨胀的问题，于是他们提出了 Attention Residuals，也就是“注意力残差”。
2026-04-15 17:43:55
579
原创 DeepSeek-OCR 2：给人工智能更像人类的眼睛
这篇论文的核心创新，是一个叫做 DeepEncoder V2 的新编码器。按照论文的说法，它的目标不是简单提取视觉特征，而是能够根据图像语义动态重排视觉 token。作者认为，传统方法把视觉 token 固定成栅格扫描顺序，其实给模型加入了一种并不合理的先验；对于复杂版式图片，这种顺序和人类真正的观察方式并不一致。
2026-04-15 04:37:17
758
原创 从吐槽到规则：Karpathy 如何给 AI 编程立规矩
最近有个很有代表性的项目火了。它的名字叫，作者是 forrestchang。这个项目最有意思的地方，不在于它写了多少代码，而在于它几乎没有“发明新技术”，只是把 Andrej Karpathy 对 AI 编程助手失败模式的吐槽，整理成了一套可以直接执行的行为规则，最后收敛成一个很短的CLAUDE.md文件。结果就是，这个仓库迅速在 GitHub 上积累到接近 29k stars，且这个数字还在升高，成了很多人给 Claude Code“立规矩”的模板。
2026-04-14 21:34:11
936
原创 4.14信息补充
做 PPT 这类工具里，Beautiful.ai 的信息比较完整。验证过的.edu新学生用户，可以拿到；没有这个资格的普通用户，也能开。试用期间可以使用和，但需要绑定信用卡，不取消会自动扣费。正式价格是，或者。需要注意的是，这项学生福利更偏海外校邮，大多数国内学生并不能直接用上这 1 年免费资格。
2026-04-14 05:33:37
488
原创 FARS：当AI开始自己做科研
从更长远的角度看，FARS 真正值得关注的，不只是“四代理自动写论文”这个表面形式，而是它提出了一种更激进的科研想象：把研究拆成可流水化、可并发、可度量的工业过程。但 2026 年初，Analemma 公开展示的 FARS（Fully Automated Research System）把这件事往前推了一步：它试图让系统自己完成“找方向、提假设、做实验、写论文”的完整流程，并且不是只做几个样例，而是以公开直播的方式连续运行，直接把“自动化科研”从概念演示变成一次可观察、可讨论的真实部署。
2026-04-13 20:21:19
542
原创 从“会算”到“会查”：读懂 DeepSeek 的 Engram
DeepSeek 在 2026 年 1 月提出的 Engram，针对的是一个很基础、但过去常被埋在模型细节里的问题：现在的大语言模型已经很擅长 computation(计算)，却没有一种原生的 knowledge lookup(知识查表) 能力。论文把这个问题直接写成一句话：“Transformers lack a native primitive for knowledge lookup.”（Transformer 缺少一种原生的知识查表原语。
2026-04-13 19:37:57
752
原创 Claude 真的“有情绪”吗？Anthropic 这项研究到底发现了什么
所以，这项研究真正值得关注的地方，不是“AI 终于有感情了”这种夸张标题，而是我们开始更具体地看见：大模型内部某些抽象心理概念，已经不只是语言表演，而是会进入决策回路、影响偏好，甚至和安全、对齐直接相关。对研究者来说，这意味着以后也许可以通过监测这类内部表示，更早发现模型是否正在滑向危险行为；对普通用户来说，这至少说明一点：当大模型看起来像在“着急”“警惕”或“安慰你”时，它背后可能确实有一套可分析、可干预的内部机制，只是这套机制还远不是人类意义上的情感。
2026-04-12 20:12:18
852
原创 拉马缰绳harness--大模型 Agent 为什么需要执行框架
这说明，大模型并不是只要“知道任务是什么”就够了，人如何组织语言、提供示例、强调重点，也会直接影响它的理解与输出。也正因如此，大家才逐渐开始重视一个新方向：怎样把任务更准确、更稳定地“说给模型听”，这也就是后来所说的。但 prompt engineering 很快也暴露出了边界。它擅长做的是，也就是把要求说得更清楚、更具体，让模型更容易理解你的目标，从而更充分地发挥已有能力。因此，它主要解决的是“怎么表达任务”这个问题，而不是“怎么组织信息”这个问题。
2026-04-11 23:40:09
597
原创 从 RAG 到 LLM Wiki：Karpathy 为什么开始让大模型自己维护知识库
LLM Wiki 值得重视，是因为它把知识库从“提问时临时检索”变成了“平时持续整理”。普通 RAG 往往是在每次提问时重新从原始资料里找答案，而 LLM Wiki 会先把摘要、索引、概念联系和阶段性结论沉淀下来，让这些中间处理结果成为后续问答和研究的基础。它更适合技术学习、论文阅读、项目研究这类长期积累型任务，因为这类任务真正重要的不是一次性找到答案，而是让后续工作能够继承前面的理解。Karpathy 给出的原始说明在 GitHub Gist 上，标题就叫LLM Wiki。
2026-04-10 21:18:57
695
原创 五分钟了解 MCP：大模型与工具之间的“转接头
最开始，大模型更多像一个“会聊天、会写字、会回答问题”的系统。用户问它一个问题，它返回一段文字；用户让它解释、总结、翻译，它也主要是在对话框里完成回应。但随着使用场景越来越复杂，人们很快发现，很多需求并不只是“得到一个回答”就够了，而是希望模型把事情继续往下做。比如，不只是告诉你某份文件可能有问题，而是直接去读取文件内容；不只是帮你规划待办，而是进一步创建提醒、查询日历、调用外部服务。于是，大模型的角色开始从“对话”走向“操作”。
2026-04-10 13:43:03
217
原创 10分钟搞懂 RAG：大模型如何边检索边生成答案
在实际应用中，RAG 的价值并不只是给模型额外接入一批外部知识，而是让模型在回答之前，先从当前任务相关的资料中找到最有用的那一部分，再基于这些信息生成结果。它特别适合那些知识量大、信息更新快、且回答必须依赖具体上下文的工业场景。例如在企业知识库问答、智能客服、运维支持、风控与反诈系统中，如果模型只依赖参数中的通用知识，往往只能给出泛化、模糊的回答；而在 RAG 框架下，系统会先检索与当前问题最相关的产品手册、制度文档、错误码说明、历史工单、风险规则、案例库或法条依据，再由模型组织成面向当前问题的回答。
2026-04-09 20:20:07
697
原创 机器学习算法与实践
从数据中学习模型的过程，叫做学习，也叫做训练；训练过程中使用的数据，叫训练数据；训练数据中的每一个样本，叫做训练样本；训练样本组成的集合，叫做训练集合；学得的模型对应了关于数据的某种潜在规律，叫做假设g；潜在规律自身，叫做真相或真实f。监督学习是利用带有标签的数据，通过学习输入->输出（标签）的映射关系，来建模数据规律的方法。（分类任务：预测结果是离散的；回归任务：预测结果是连续的）非监督学习是在没有标签的情况下，通过数据本身的相似性，结构，分布特征，发现规律或对数据进行划分。（聚类任务）假设空间。
2026-01-04 13:28:52
1034
原创 从零开始的手语实时翻译程序学习制作
适用场景：语音识别、手写/OCR、手语视频转文本等输入/输出长度不对齐且只需句级标注的任务。CTC通过对其路径求和让模型在无需帧级标签的前提下训练。输入特征序列：x1:T，长度T（例如T帧视频或声谱帧）。词表：V（字符/拼音/词片），再额外加blank。模型在每个时间步t产生一个分布p(k|xt)表示在实践步t模型对当前步输出为k的后验概率（即已知这一帧的内容估计对应标签为k的概率）这里的xt常指编码器在第t步的特征/状态（ht），实际来自整段输入做过卷积的处理。
2025-12-18 15:27:39
952
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人