研究质疑 AI 文本水印：单条无损但多轮对话多样性下降
欧盟 AI Act 透明度指引生效后，多数主要 AI 实验室将给文本输出加水印。博主 Keyvan 引用 Anthropic 所依据的 Google SynthID-Text 论文（2024 年发表于 Nature）补充材料指出，该方法存在「多样性/可检测性权衡」：单条回复质量不受影响，但对同一提示采样多条回复时，加水印的回复彼此相似度更高。Anthropic 称「水印不影响 Claude 输出质量」，其人类测试基于单条回复，而非用户实际的多轮对话使用方式。技术作者 John Gruber 认为为嵌入来源线索牺牲文…
推荐理由想了解水印对模型输出实际影响的读者，可看到「单条无损、多轮趋同」这一被忽略的权衡。