OpenAI 周一在一篇博客文章中表示，为遵守欧盟《人工智能法案》，该公司将开始对 ChatGPT 和 Codex 在欧盟生成的文本添加不可见水印。
欧盟《人工智能法案》的透明度规则于 8 月 2 日生效，要求 AI 公司以其他系统能够识别的方式标记 AI 生成的内容。
OpenAI 表示，该水印将在未来几周内向所有套餐中符合条件的 ChatGPT 和 Codex 用户推出，但仅限于欧盟。世界任何地方使用 OpenAI API 的开发者从今天起可以为部分模型开启该功能；该功能默认关闭。OpenAI 表示，在推出时不会将文本水印设为全球默认。
该水印并非一个实际的符号，而是通过微妙地影响模型的用词选择来运作，留下一种读者看不见、但检测器可以识别的模式。由于它存在于文字本身之中，当文本被复制粘贴时，水印也会随之保留。OpenAI 表示，该水印不会识别用户身份，并且开启后其模型性能没有出现明显变化。
OpenAI 还发布了一份技术报告，介绍其名为 textGrain 的方法。该报告与宾夕法尼亚大学和耶鲁大学的研究人员合著，其中演示了一个示例：使用密钥对下一个词的预测进行排序以完成句子。将数百次这样的微调叠加起来，检测器仅凭文本和密钥就能识别出 AI 生成的内容。
水印能通过编辑去除吗？OpenAI 的测试表明可以。在一项测试中，将 10% 的词语替换为同义词后，检测率从约 92% 降至 66%。该公司还表示，短段落、数学答案和翻译文本更难被检测出来。
该公司表示：“这些局限性促使我们决定，初期仅向经过批准的研究人员和专家组织提供检测器访问权限，他们可以帮助我们评估可靠性和负责任的使用方式。”
OpenAI 还警告称，缺少水印“并不能证明是人类创作”。文本可能太短或经过大量编辑，也可能来自其他公司的 AI。
“（水印）可以表明 OpenAI 系统生成或处理了某段文字的一部分，但无法说明其中投入了多少人类判断、编辑或创造力，”该公司表示。
这一宣布发布两个月前，Anthropic 表示将为Claude 生成的文本添加水印，此举正在全球范围内推行。这一决定引发了一些 Claude 用户的不满，他们辩称自己提供了“指令、上下文、决策”，而 Claude 只是“工具”。
OpenAI 此前曾开发过文本水印，但推迟了发布，部分原因是担心用户会转向不添加水印的竞争对手，《华尔街日报》报道称，此事发生在 2024 年。
Anthropic、Google、Meta、Microsoft 和 OpenAI 等公司已承诺遵守欧盟的实践准则，该准则针对 AI 生成内容。
当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Aditya Mehta 是 TechCrunch 报道 AI 的记者。他获得了 Tarbell Center for AI Journalism 的支持，并曾就读于 UC Berkeley。您可以通过发送邮件至 aditya.mehta@techcrunch.com 联系 Aditya，或通过 Signal 上的 adymehta.74 发送加密消息。