
【Anthropic承诺标记Claude生成内容】
为遵守欧洲有关AI透明度规定,Anthropic承诺用机器可读数据标记Claude生成的文本和图像。Anthropic在新的Claude支持页面表示:“生成的文本将带有嵌入式水印,在支持的情况下,生成的文件将包含数字签名的来源元数据。”这些更改肉眼不可见,却能让人们和在线平台更轻松检测内容是否由Claude模型生成。
【更新并非立即生效】
这些更新是未来承诺,并非立即生效。欧盟《人工智能法案》于8月2日生效,新的AI标记和透明度义务为此前推出的现有AI产品提供四个月合规宽限期。因此,Anthropic称新的Claude模型将从发布首日起标记AI生成内容,但对现有模型的支持仍在推进中。
【标记技术与应用范围】
机器可读标记将在全球范围内应用于受支持的Claude模型,包括Claude Platform(API)、Claude、Claude Code、Claude Cowork和Claude Tag。目前采用两种不同标记技术:对于Claude处理的图像,将对受支持的文件应用C2PA(一种已被Adobe、OpenAI和Google采用的来源元数据标准),但标记Claude生成文本的过程细节较少。
【相关内容列举】
相关内容有《你们这些胆小鬼,让我们过滤掉AI垃圾》《AI标记系统到了生死存亡的时刻》《真的,你没用AI做出这个?证明给我看》。
【文本水印情况】
据Anthropic称,一种 “难以察觉的水印” 被直接嵌入Claude模型生成的文本中,不会改变聊天机器人回复的含义、质量或可读性。Anthropic未提及这种水印系统的名称,但表示当通过AWS、Google Cloud或Microsoft Foundry访问Claude模型时,也会应用这些文本水印。Anthropic在Claude支持页面表示:“由于水印是文本的一部分,当文本被复制粘贴到其他地方时,水印也会随之移动,并且在某些编辑过程中可能会保留下来。水印将在模型层面应用,这意味着无论文本来自哪个Claude产品或界面,都会存在水印。”
【检测系统情况】
Anthropic还在努力让用户和其他第三方能够检测嵌入Claude生成内容中的水印和来源元数据,并表示将在后续的技术文档中分享有关该检测系统的详细信息。目前已有一些用于检测C2PA元数据的工具,包括Google的Gemini聊天机器人,但尚不清楚这些工具是否适用于Claude生成的文件。已向Anthropic询问相关情况以求澄清。
【标记意义与应用前景】
这是朝着在在线平台上清晰标记AI生成的文本和图像迈出的又一步,对于那些不想接触此类内容的人来说,可能是个好消息。同人小说读者已经开发了一些较为基础的检测系统,用于标记AO3同人作品中是否使用了Claude工具。如果这些标记系统有效,其应用范围将更为广泛。
【标记系统可靠性存疑】
众所周知,C2PA数据很容易被去除,有时在将包含该数据的媒体上传到在线平台时甚至会意外丢失,而且目前尚不清楚Anthropic的文本水印解决方案的可靠性如何。就连该公司自己也承认,这些标记系统远非万无一失,任何无法检测到标记的内容仍有可能来自生成式AI模型。
237



被折叠的 条评论
为什么被折叠?



