
AI文本水印工作原理揭秘
本文将以直观方式,逐步介绍统计标记如何隐藏在生成文本中,以及哪些因素会消除它。
AI文本水印已存在
在纯文本中添加水印看似不太可能,因为文本没有像素可藏数据,复制粘贴也不保留元数据,每个字符都清晰可见。那么,标记究竟藏在哪里呢?其实,自2024年起,谷歌就为Gemini应用和网页体验生成的文本添加了水印(截至撰写本文时,其API是有文档记载的例外情况)。截至2026年8月,Claude的新模型在模型层面为文本添加标记,早期模型也在跟进。这些标记肉眼不可见,复制后仍存在,且存在于字符的选择之中,而非字符本身。
详细步骤介绍
下面通过五个简短步骤详细介绍,每个步骤都有探讨点,难度不超简单计数。
写作是小选择的结果
这一步核心观点是:模型写作时,会在多个合适词汇中加权选择,就像掷骰子。当模型写到句子中间,不知道“下一个单词”是什么,会像自动补全功能一样给出候选词列表并带有偏好。比如句子快结束选最后一个单词,每次掷骰子遍历候选词列表,根据概率落在一个单词上填入句子。尝试20次,结果分布符合概率,且无论选哪个单词,句子都通顺合理。一页文本有数百个这样的小选择,每个单词对应一个选择点,很多选择点有多个合适选项,这种灵活性就是隐藏水印的原材料。任何能影响骰子落点的人,都可在不改变文本内容的情况下隐藏模式。
密钥影响选择
这一步核心观点是:密钥会秘密对候选词列表分类,并对其中一类给予轻微偏向,不影响文本可读性。经典实现方法是在每个选择点用密钥进行数学运算,将候选词分为绿色和红色两类,只有持有密钥的人能重现这种分类,然后让选择概率稍偏向绿色单词。这种方法有两个巧妙之处:一是偏向轻微,红色单词仍可能被选中,只是概率稍低;二是分类不是单词固定属性,密钥根据前面几个单词计算分类,同一个候选词在不同前缀后可能被分为绿色或红色。此外,谷歌的SynthID用微小秘密“锦标赛”取代偏向,OpenAI开发的Aaronson方案直接从密钥推导掷骰子结果,虽数学方法不同,但原理相同,标记都存在于选择之中。
持有密钥可计数
这一步核心观点是:有了密钥,可对任何文本重新分类并简单计数。带有标记的文本中,绿色单词出现频率过高,不可能是随机的。检测过程无需读取文本内容或判断风格,检测器根据密钥对单词重新分类并统计绿色单词数量。若没有标记或使用错误密钥,绿色单词出现概率约为50%,就像抛硬币。需要注意检测严格性,短文本、经过编辑的文本或标记较弱的文本往往会被漏检,文本长度也是检测一部分。实际应用中标记偏向更轻微,需要更多文本才能检测到。
编辑对标记的影响
这一步核心观点是:标记存在于未被修改的连续文本中,编辑会在连续文本中断的地方消除标记,其他地方不受影响。每个单词的分类根据它前面几个单词推导,只有原始文本一小段保持完整,这个位置才能作为检测证据。在实际应用中,大约0.5%的窗口得以保留,检测器准确率从几乎确定下降到随机水平。轻微或一次性改述会稀释标记,真正能消除标记的是与原文没有连续文本相同的重新创作。需要明确的是,这些数据来自可测量的开源实现,Anthropic的生产方案未公开,目前除其内部人员外,没人能对Claude的标记进行测试。
实际应用中的意义
这一步核心观点是:检测是私密的、基于概率的,并且与处理过程有关,而非作者身份。具体如下:只有密钥持有者才能进行检测;水印检测不是“AI检测器”;检测到标记意味着“经过处理”,而不是“由AI撰写”;短文本和选择余地小的文本标记较少;某些标记在重写后仍然存在;生产参数未公开,本文描述的是这一类方案,而非具体部署。
446



被折叠的 条评论
为什么被折叠?



