MiniMax叫不出“马嘉祺”，揭开AI“失语”新故障及修复之道

分词器：AI看世界的“颗粒度”

时代少年团粉丝近期在社交媒体平台发布截图，让MiniMax回答“时代少年团队长是谁”，模型给出错误答案，换问“时代少年团队长有什么经历”却能对答如流，表明AI知道马嘉祺但叫不出名字。一直以来有幻觉和谄媚两种AI故障，马嘉祺事件揭示新故障“训练不足词元”。研究者扫描主流开源模型词表，发现存在数千个模型“没真正学会”的token。2023年初，GPT - 3遇“SolidGoldMagikarp”有异常表现，是马嘉祺事件前传。大模型读写文本按词元处理，中文先由分词器切成token，切分依据是预训练语料出现频率，采用BPE算法。在MiniMax词表中，“马嘉祺”被切成「马」和「嘉祺」。分词器颗粒度在不同语言间差异大，影响费用、上下文长度和理解质量，资源稀少语言处于劣势，与马嘉祺事件失语机制有共同底层结构。

预训练学得好好的，后训练把它挤掉了

大模型训练分预训练和后训练两阶段。预训练用海量互联网文本，“马嘉祺”大概率在预训练语料出现几十万次。后训练用精选对话数据，范式由OpenAI团队奠定，监督微调加基于人类反馈的强化学习成业界标配。MiniMax工程师排查发现，“嘉祺”在预训练阶段正常，但后训练阶段样本不足，几乎没被练习。这涉及“灾难性遗忘”概念，即神经网络学新任务会丢失原有能力，且在大模型中普遍存在并随规模增大恶化。后训练阶段高频token挤压低频token，“嘉祺”向量被推离正确区域，导致输出错误。这种现象对应“对齐税”概念，降低损失已成为研究方向。所以AI并非不认识马嘉祺，而是学习说话时忘了说出“嘉祺”。

借人类的“卡壳”，看懂AI的“失语”

AI失语机制是语义通路完整但表层生成通路断裂，可借用“舌尖现象”理解。1966年，Brown和McNeill将舌尖现象做成实验范式，被试卡在“sextant”时能说近似词但叫不出本身。借“舌尖现象”看AI失语，有三点关键：一是失语不等于失忆，评估模型应分开测量“会不会输出”和“知不知道”，需专门探针式评测；二是频率与连接强度更关键，传输不足假说解释了老年人易出现舌尖现象的原因，与AI失语类似，解决方案是给词表token安排最低限度训练机会；三是替代输出是诊断信号，人类和AI的替代输出机制相同，观察错误输出形态比统计对错率更能定位故障层级。

AI错误的谱系，多了一个新词条

将“失语”放在AI出错研究整体图景中，它不是孤立现象。学界已定位、命名并研究的AI错误类型有相似处境和结构，不能用单一准确率指标捕捉，每种对应训练流程具体环节，坐标相近错误有亲缘关系。这些错误大多先由用户和社区发现，再由研究者处理。AI错误研究有“边用边发现”特点。马嘉祺事件为AI错误地图增添位置，未来还会有新错误被发现。此次问题因粉丝高频提问被定位，普通词答错可能不被关注。MiniMax修复方案是给词表token安排最低训练机会，新版本“嘉祺”能正常输出。AI系统健康受使用强度影响，高频领域故障易发现，低频领域故障可能被忽视。