- 博客(154)
- 收藏
- 关注
RSS订阅原创 他们跑，Cursor追，半年接近第一梯队
然后把这个"删除版仓库"作为新任务的起点，让agent重新实现该feature，原代码库自带的测试就成了可验证的奖励信号。Cursor几百万开发者每天在产品里产生的真实coding任务和反馈数据——用户有哪些奇葩的需求、哪些fix真正被采纳——这比任何一家模型公司都具有更大的优势。作为产品起家的公司，没有那么多的包袱和钱可烧，直接对比GLM-5/Kimi K2.5/DeepSeek V3.2后选择了K2.5，把人力、资源集中投入到了后训练上。K2.5本身的参数量和训练量也足够，提供了较好的基底。
2026-05-20 09:19:00
396
原创 RLRT: 老师主打一个情绪价值
到这里这条baseline谱系的三个关键设计已经穷举完一轮：teacher看rollout还是ground truth（SDPO/SRPO选rollout，RLSD选ground truth）、weight是logit KL还是token ratio（SDPO/SRPO选KL，RLSD选ratio）、在哪些rollout上apply（SDPO/RLSD全部，SRPO只在r=0）。RLSD在成功轨迹上加权教师偏好的token，逻辑是"教师条件了更多上下文，所以教师偏好的大概率更好"。
2026-05-18 09:18:35
618
原创 YC CEO把自己开源了
—比如"founder mode"（创始人模式）、"二阶思考"、"Scaling Law还远没到顶"这种你自己反复reference的核心mental model（思考框架）。近几年来，我愈发能感受到"方法论"的重要性，就像是不同的thinking pattern，在面对问题和决策时有一套清晰的可遵循方法，可以规避掉一顿瞎搞的探索成本。6个问题表面看是创业问题，但把"产品"换成"你正在做的任何决策"——技术选型、写作选题、要不要跳槽——都成立。死磕到第4第5个假设时，大概率已经偏离了正确路径，越查越远。
2026-05-11 09:18:58
526
原创 连续扩散终于在文本上发招了
—如下图，用MSE作为主损失的Plaid模型，token嵌入的最近邻距离均值仅0.058，而用交叉熵损失的LangFlow、AR、MDLM模型，这个数值分别是0.877、1.211、1.124，不同token的嵌入区分度差距悬殊，模型表达能力被直接限制；（对应对数似然的ELBO下界），通过沿ODE轨迹的数值积分就能确定性地计算PPL，比之前的SDE-based NELBO更紧致、更稳定，终于给连续扩散语言模型找到了和离散模型、自回归模型完全对齐的、和采样流程匹配的可靠评估标准。
2026-04-23 09:18:27
287
原创 循环Transformer的Scaling Law
作者们从140M到1.3B参数，做了全规模的实验，先看和同参数量的标准Transformer对比，结果如下所示，770M参数的Parcae，Core分数25.07，和1.3B参数的标准Transformer（25.45）几乎打平——P.S. 论文的所有实验，最大只做到了1.3B参数、104B tokens的规模，远小于工业主流大模型的尺寸，在更大模型上的稳定性和参数效率优势能不能保持，还有待验证。而这个下界，是由训练时的循环次数决定的——训练时循环次数越多，这个下界就越低，推理时能达到的效果上限就越高。
2026-04-21 09:18:20
414
原创 强老师救不了OPD
但这里有个解不开的死结——训练时学生学的是老师的分布，推理时却要从自己的分布里生成内容，学生自己写出来的步骤，和老师提前写的标准答案完全不一样，之前背的东西不一定能用得上。如上图右所示，RL训练后的老师B，和学生的初始重叠率远高于老师A，这意味着，它和学生的「思维模式」是高度兼容的。同时，论文还发现了重叠token的自我强化效应：随着训练推进，学生把更多的概率质量集中到重叠token上，师生的重叠区域会进一步扩大，老师的引导信号也会越来越精准，形成正向循环，训练会越来越稳、效果越来越好。
2026-04-20 09:19:06
758
原创 一个简单到尴尬却有效的SFT实验
作者将编程领域SSD后的模型在数学推理、通用代码生成和代码理解上做了测试，结论是30B模型性能大致稳定，小模型（4B/8B）则出现退化，Llama-3.1-8B在AIME上几乎归零，原因是格式问题——SSD让它倾向输出code block而非最终数字答案。SSD的做法是把Fork的多样性烧进权重，推理时用正常温度+截断，Lock干净，Fork也有多样性。：Llama-3.1-8B +3.5pp，Qwen3-4B +7.5pp，Qwen3-30B +12.9pp，Thinking版本也有提升。
2026-04-07 09:18:47
563
原创 从Claude Code源码看Anthropic的产品野心
鸭子(duck)、鹅(goose)、果冻(blob)、猫(cat)、龙(dragon)、章鱼(octopus)、猫头鹰(owl)、企鹅(penguin)、乌龟(turtle)、蜗牛(snail)、幽灵(ghost)、六角恐龙(axolotl)、水豚(capybara)、仙人掌(cactus)、机器人(robot)、兔子(rabbit)、蘑菇(mushroom)、胖团(chonk)Claude Code在记忆上的投入远超预期——不是简单的"把对话存下来"，而是一套有分类、有提取、有整合、有遗忘的。
2026-04-01 09:18:30
644
原创 视觉理解和生成的相爱相杀
为验证视觉生成与理解任务的相互作用，ROSS在7B模型规模的相同模型结构与算力条件下，设计了严格对照实验，仅改变去噪器的条件来源与训练数据，将任务分为纯理解基线、重构式理解、生成式视觉建模三组，并基于百万级指令微调数据统一评估幻觉抑制、细粒度理解与通用理解能力。架构方案：提出RAE+MoE架构，MoE自动形成文本专家、视觉专家、多模态专家，实现模态能力解耦与动态调度，让视觉与语言处于平等地位，LLM专注语义融合与跨模态调度，理解与生成依托专用表征路径与优化目标，最终实现生成与理解的协同最优。
2026-03-31 09:19:10
587
原创 一个多模态模型，理解也要，生成也要
连续方案（扩散/Flow Matching）的loss本质上是回归问题（MSE/velocity prediction），和文本的分类问题（交叉熵）是两种完全不同的优化目标。RVQ 在保持离散性（每级仍然是从有限码本中选一个 ID）的同时，通过多级叠加大幅提升了信息密度——既保留了高层语义（用于理解），也保留了细节信息（用于生成），实现了信息密度和压缩率的平衡。：先说「红色」（第一级），然后补充「偏橙」（第二级编码「红色」和实际颜色的差异），再补充「暖色调」（第三级编码剩余的细微差异）。
2026-03-27 09:18:51
381
原创 RLHF：我Scale起来自己都害怕
它的作用很关键：就算reward model认为某个优化方向是负的，也能给一个最小的正向激励，避免模型过度“悲观”，越学越歪。核心直觉特别简单：ENN选出来的，是模型“最不会区分好坏”的配对，标注这一对能最快消除模型的不确定性，比随机标注的信息密度高得多。Google的这项工作，尽管的实验设计仍有一些待验证的细节，但开头的RL Scaling曲线，无疑给未来带来了很大的想象空间。这篇论文的实验结果，直接刷新了RLHF的效率天花板： 用少于20K的标注数据 → 追平离线RLHF用200K标注的效果，
2026-03-23 09:18:56
280
原创 Attention Residuals｜残差连接的范式跃迁
AttnRes没有去卷注意力机制的各种变体，而是回头看向了大模型里最基础、最习以为常的残差连接，用序列和深度的对偶性，给深度维度装上了注意力的能力，不仅从根源上解决了传统残差的信息稀释问题，还通过工程优化做到了极低的落地成本，在长文本、复杂推理、代码生成这些大模型核心场景上，都带来了实打实的效果提升。：在主流的PreNorm范式下，固定等权的残差累加会让隐藏状态的幅值随层数线性增长，越深层的网络，想要影响最终结果就必须学习更大的输出，不仅每层的有效贡献被持续稀释，还会直接影响训练稳定性；
2026-03-18 09:18:52
350
原创 从GLM-4.5到GLM-5
混合训练模式，融合数学、科学、代码、工具集成推理（TIR）四类任务，统一优化推理链条，同时对数据进行难度过滤，聚焦GLM-4.7难以解决的高价值问题，提升复杂推理能力。MLA虽然省了KV cache的显存，但在解码时计算成本更高，因此作者将MLA头维度从192提升至256（+33%），头数量减少1/3，即保持训练阶段的计算量和参数总量不变，但头数量减少直接让解码阶段的总计算量降低 1/3，提升了解码速度。，提升实际交互体验。在拓宽数据来源的同时，强化单条issue级别的质量过滤，减少噪声；
2026-02-26 09:19:07
459
原创 交互升维｜写在AI新范式前夜
这一变化不仅会催生更智能的模型（如具备因果推理、空间建模能力），更将重新定义「AI训练」的本质——它可能不再是实验室中的批量作业，而是持续发生在每一个用户屏幕里的人机共生创作。如果是生成用户要用来处理任务的界面系统，用户可能会有更多耐心进行对话调整，比如仿真实验里增加一个控制项，这样最终用户真正发生交互行为、下载代码，就可以作为监督信号。相信这两天很多人都被Gemini3.0的生成效果刷屏了，很多文章的标题都是前端已死、前端无了，开始我还觉得夸张了，直到我点进去看了一个。
2025-10-16 09:18:57
363
原创 NExtLong｜不使用长文档也能训练出来SOTA长文大模型！
title作者：高超尘、伍星 等机构：中国科学院信息工程研究所/小红书/清华Arxiv：https://arxiv.org/abs/2501.12766Huggingface：https://huggingface.co/datasets/caskcsg/NExtLong-512K-dataset 目前五个数据集累积下载次数超过1200次。Github：https://github.com/cas...
2025-02-24 09:18:51
768
原创 我的RAG好像有问题
作者：刘金涛、丁瑞雪检索增强生成（Retrieval-Augmented Generation, RAG）致力于通过从外部知识源检索上下文来提升大型语言模型的表现，进而生成更加准确和可靠的答案，从而有效降低幻觉现象的发生。尽管该领域取得了一些进展，但评估这些系统仍然面临一些关键挑战：数据多样性有限：知识库和查询类型的多样性不足，限制了RAG系统的广泛适用性；问题定位困难：RAG系统包括切片、检索、...
2024-10-22 09:18:18
798
原创 Alignment下一站：合成数据
卷友们好，我是rumor。大模型训练中，数据质量已经是所有人的共识了。在23年开始接触Alignment之后，我一直是人工标注流派，深信InstructGPT[1]中所描述的，先train好标注员，再train好模型。那时候各个模型的质量也都一般，合成的数据一眼就能挑到一堆毛病。事情的转折要从sora开始，了解到那么好的效果居然大量应用了合成数据之后，我开始意识到自己还停留在上一个时代。首先大模型...
2024-08-14 09:18:18
1087
1
原创 大模型对齐阶段的Scaling Laws
卷友们好，我是rumor。随着过去一年大模型技术的发展，数据、模型尺寸scale up后的能力已经不容置疑，scaling law也被越来越多研究者重视起来。在预训练资源消耗如此大的情况下，掌握scaling law有众多优点：提前预测最终模型效果，知道每次训练的大概能到什么程度，要是不及预期可以根据预算再进行调整在小尺寸模型上做置信的实验，进行数据、算法策略验证，降低实验的时间、资源成本在真正的...
2024-04-01 09:18:14
1514
1
原创 如果我搬出RLHF+GAN这个设定，你如何应对
卷友们好，我是rumor。前阵子腾讯AI Lab悄悄挂出了一篇文章：Adversarial Preference Optimization (APO)[1]，看到设定我就惊呆了：RLHF+GAN，难道还嫌RLHF本身不够难训吗？但读下来发现作者其实是想解决RLHF一个很重要的问题，而且给出的方法既fancy又优雅。下面，我们直接有请一作本人程鹏宇大佬来讲一下心路历程????。注：文中有公式，请切换到白色...
2023-12-27 09:18:20
1196
原创 OpenAI的Weak-to-Strong在说什么
卷友们好，我是rumor。前阵子OpenAI新成立的SuperAlignment放出了他们的第一篇工作[1]，虽然没有带来太多震撼，只是验证了一个简单的直觉：用弱一点的模型标注数据，精调更强的基模型，得到的效果好于弱模型本身。但通过上面的结论，就可以推断出：用人类标注的数据，精调强于人类的基模型，就能超越人类了。这就是OpenAI的风格，论文看着也没说啥，只是说了一个小规律，但如果把这个小规律sc...
2023-12-21 09:18:46
1320
原创 一些RLHF的平替汇总
卷友们好，我是rumor。众所周知，RLHF十分玄学且令人望而却步。我听过有的小道消息说提升很大，也有小道消息说效果不明显，究其根本还是系统链路太长自由度太高，不像SFT一样可以通过数据配比、prompt、有限的超参数来可控地调整效果。但也正是因为它的自由度、以目标为导向的学习范式和性价比更高的标注成本，业内往往认为它会有更高的效果天花板。同时我最近看OpenAI的SuperAlignment计划...
2023-11-16 09:19:01
867
原创 有被混合后的SFT数据伤到
卷友们好，我是卡比。SFT是目前最常见的调节模型效果的手段，然而它虽然看起来简单（准备好数据->启动），真正优化起效果来却困难重重，尤其是当我们有一堆能力项要优化时（推理能力、闲聊能力等），事情往往不会像我们预想的那样发展，单独调节能力和混合调节能力完全是两个难度。今天就和大家分享我们在近期的一篇工作，探索混合数据后的模型优化姿势：地址：https://arxiv.org/pdf/2310....
2023-10-20 09:18:47
896
原创 做情绪识别，有必要用LLM吗？
卷友们好，我是尚霖。情绪识别在各种对话场景中具有广泛的应用价值。例如，在社交媒体中，可以通过对评论进行情感分析来了解用户的情绪态度；在人工客服中，可以对客户的情绪进行分析，以更好地满足其需求。此外，情绪识别还可以应用于聊天机器人，通过实时分析用户的情绪状态，生成基于用户情感的回复，从而提供更加个性化的交互体验。对话情感识别(Emotion Recognition in Conversation)是...
2023-10-13 09:18:55
480
原创 千问的大模型KnowHow
卷友们好，我是rumor。通义千问昨天放出了14b参数的模型，还有一份比较详尽的技术报告，包含作者们训练8个模型的宝贵经验。同时他们开源的13B比起开源的SOTA也有不少提升：今天我们就来一起白嫖，更多细节请移步原文：https://qianwen-res.oss-cn-beijing.aliyuncs.com/QWEN_TECHNICAL_REPORT.pdf预训练数据过了3T token，超过...
2023-09-26 09:18:55
2076
原创 百川的大模型KnowHow
卷友们好，我是rumor。大模型是一个实验工程，涉及数据清洗、底层框架、算法策略等多个工序，每个环节都有很多坑，因此知道如何避坑和技术选型非常重要，可以节省很多算力和时间，说白了就是一摞摞毛爷爷。近期百川智能发布了Baichuan2的7B和13B版本，可能不少卷友被刷屏惯了没有仔细看，他们在放出模型的同时也给了一份技术报告，里面干货满满，因此我自来水一波，带大家一起看看百川积累的KnowHow。同...
2023-09-13 09:18:48
670
原创 OpenAI的Superalignment策略：计算为王
卷友们好，我是rumor。对于怎么实现AGI这个玄学的目标，感觉大家都是差不多的状态：咱也不知道怎么做，但就是觉得现在的LLM技术还远远不够。所以之前看到OpenAI说要用模型去做对齐研究[1]，以及最近发话要4年内做出SuperAlignment[2]时，我都是一脸问号，觉得没什么新东西，get不到他们的思路。为什么要做AI研究器直到最近断断续续刷了两遍Jan Leike的访谈，我突然有种悟了的...
2023-08-21 09:18:22
213
原创 从OpenAI VPT，看视频预训练
卷友们好，我是rumor。视频预训练一直是我很期待的方向，毕竟文本的表达是有限的，如果让大模型建立起对世界的多模态认知，可能很多常识知识问题、world model就迎刃而解了。另外互联网的文本数据也逐渐无法跟上Scaling law，下一步必然会走向多模态。然而直到现在好像也没看到能很好利用视频数据来做Foundation模型的方法，恰好最近又看了OpenAI去年发布的VPT[1]这篇工作，没想...
2023-08-07 09:18:57
417
原创 CV什么时候能迎来ChatGPT时刻？
卷友们好，我是rumor。最近看了几篇CV的工作，肉眼就感受到了CVer们对于大一统模型的“焦虑”。这份焦虑让他们开始尝试统一一切，比如：统一复杂的自动驾驶任务的优化目标[1]，来自今年CVPR最佳论文。统一典型的CV任务，包括图片理解、推理、编辑[2]。今年CVPR另一篇最佳论文。仿照LLM的方式设计Large Vision Model的范式雏形[3]。然而如今NLP进化出这样的统一范式太难得了...
2023-06-27 09:18:42
1241
原创 EmbodiedGPT｜具身智能或将成为实现AGI的最后一公里
卷友们好，我是穆尧。最近由Chatgpt所引爆的新一代人工智能的革命正在如火如荼的进行，几乎重塑了所有的互联网产品，如办公软件、浏览器插件、搜索引擎、推荐系统等。这样巨大的改变，让大家对通用人工智能又燃起了新的希望，而可能成为我们通往通用人工智能（AGI）的最后一公里。具身智能将AI从基于互联网的虚拟领域转化为具有实体形态和与物理世界实时交互能力的实体，这对于达到或超越人类智能的实现至关重要。构建...
2023-06-09 09:18:13
2629
原创 In-Context Learning中的示例选择及效果
一. ICL的背景大型语言模型（LLM）如GPT-3是在大规模的互联网文本数据上训练，以给定的前缀来预测生成下一个token（Next token prediction）。这样简单的训练目标，大规模数据集以及高参数量模型相结合，产生了性能极强的LLM，它可以“理解”任何文本输入，并在其基础上进行“写作”，除此以外，GPT-3的论文发现[1]，大规模的训练数据会产生一种有趣的新兴行为，称为In-C...
2023-04-24 09:18:04
1116
原创 RLHF魔法的衍生研究方向
卷友们好，我是rumor。前段时间分享了个人认为复现ChatGPT的一些难点和平替方案，当时在重读OpenAI InstructGPT论文时，有个惊奇的发现，即1.3B小模型+RLHF居然可以超越175B指令精调后的效果。当时就想，有没有可能ChatGPT就是个小模型，结果最近OpenAI公开接口价格后让这种猜想的可能性又增加了。由于InstructGPT给出的效果太好，让我最近对RL+LM很感兴...
2023-03-08 09:18:21
417
原创 追赶ChatGPT的难点与平替
卷友们好，我是rumor。最近ChatGPT真的太火爆了，让人很难静下心。一方面是对它的能力感到不安，以后各个NLP子任务可能就统一起来了，范式也会变成预训练+Prompt，不需要那么多精调模型的算法了。另一方面是对国内复现ChatGPT感到悲观，那么大的模型，真的需要很强的决心，投入足够的人力、财力和时间才能做出来。调整了几周，终于回归开卷的心态，捋了一遍我认为复现ChatGPT的难点与平替方案...
2023-02-19 09:18:06
3660
原创 如何用深度学习模型预测未来？
卷友们好呀，我是Carrie。当我们环顾身边的世界，是不是会发现现实世界其实是由无数个相互关联的事件（Event）所构成的呢？而从古至今，人们也都希望自己拥有未卜先知、预测未来的能力。今天，就带大家了解一个关于事件预测的任务，一起成为小诸葛(doge.jpg)今天带大家了解的任务叫做脚本事件预测(Script Event Prediction) 。何为脚本呢？脚本就是描述了特定人物一系列行为的一个...
2023-01-30 09:18:33
1779
原创 In-Context Learning玩法大全
卷友们好，我是rumor。虽然ChatGPT在大众眼里的热度可能已经过去了，但它prompt出了我的焦虑，于是最近一直在补大模型相关的工作。比起小模型，大模型有一个很重要的涌现能力（Emergent ability）就是In-Context Learning（ICL），也是一种新的范式，指在不进行参数更新的情况下，只在输入中加入几个示例就能让模型进行学习，如下图中用ICL做情感分析任务的栗子：忽略...
2023-01-06 09:18:34
5720
原创 只有我一个人对ChatGPT感到蕉绿吗？
卷友们好，我是rumor。上周四，在国内公众号还没刷屏的时候，我就看到ChatGPT发布的消息了，当时迅速看了下博客内容，心想「就这？」，这不跟DeepMind的Sparrow一样吗？而且设计的还没它好，Sparrow专门设计了一个可控的防攻击机制：当时也懒得去注册账号，就快速写了篇技术解读完事了。没想到周末的时候，这个声势越来越浩大，我赶紧跟风去买了个账号聊了一会，那时我的心情变成了：「卧槽？？...
2022-12-09 09:18:41
4168
3
原创 我用diffusion把姐妹cos成了灭霸的模样
卷友们好，我是rumor。关注早的朋友们应该知道，我有个姐妹，她去年回深圳老家了，本来我觉得还ok，还能再约着一起旅游。谁知道一年多了，我还没出过北京（微笑。以前有个快乐源泉，就是照她的黑照，但素材库已经好久没新增了。正好最近想学文生图，于是就只能对不起她了。经过一番折腾，终于有了些效果，发到了B站上，欢迎大家验（三）收（连）：点击文末阅读原文直达B站下面，我分享一下这次可控生成的步骤，其实非常简...
2022-12-03 13:58:30
932
1
原创 OpenAI发布ChatGPT！手把手debug代码！
卷友们好，我是rumor。已经好久没看OpenAI的官网[1]了，但今天冥冥之中感觉受到了什么召唤，心想GPT4什么时候发布，莫名地就打开了，果然有料：试用：https://chat.openai.com/它把魔抓又伸向对话了！来一起看看官方放出的case吧：帮人Debug代码，并进行多轮询问：识别出危险问题并拒绝回答，但用户说明意图后给出了更好的回复：执行指令，甚至改很多遍也不生气：还有个指代消...
2022-12-01 21:18:38
20287
7
原创 读了14篇论文，终于会拿捏Diffusion了
卷友们好，我是中森。扩散模型自2020年的DDPM以来，以其种种优异的特性（如训练简便，对数据分布拟合效果极好，本身的构造体系使得性质调控更加优雅直接等），在两年来横扫整个学术界，甚至出圈引起了广泛的大众讨论。每一天都会有新的文章新的方法被提出，但因为领域发展得实在太快，这些文章往往基于不同阶段的扩散模型成果添砖加瓦，使得其在短至发表几个月后就已落伍或只有参考意义。如果对整个扩散领域发展的脉络没有...
2022-11-28 09:18:39
1785
原创 2022年对话技术梳理：科研进展、产品创新
卷友们好，我是rumor。2022年稍纵即逝，我掐指一算居然只剩2个月来完成下半年的OKR了。Anyway，在脚踏实地的同时，也需要多往星空看看。今年我关注了不少对话方向的进展，这篇文章就来稍微梳理一下，欢迎对话方向的同学来一起交流，或者在评论区推荐被我漏掉的工作。先限定一下讨论范围，其实我关注的不仅是对话，而是更general的人机交互，只要是通过自然语言，操纵机器，让其给出反馈的场景都可以用到...
2022-11-08 09:18:44
571
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人