OpenAI 宣布，将在欧盟范围内自动为 ChatGPT 生成的文本添加水印。该公司也将在其他地区提供水印功能，但在欧盟以外默认关闭。

在欧洲采取这一举措，是出于遵守 8 月生效的《欧盟人工智能法案》的需要。该法案要求以另一种工具能够检测的方式，对 AI 模型生成的内容进行标记。遗憾的是，目前仍没有完全有效且可靠的方法来做到这一点。已经存在一些标准，比如 SynthID 和 C2PA 项目，但对于任何具备基本知识的人来说，它们相对容易被规避。

OpenAI 的水印很可能也是如此。其方法是专有的；该公司称之为 textGrain，并发表了一篇技术论文解释其工作原理。但总体而言，它的运作方式与我们过去见过的其他 LLM 水印工具类似：它在用词选择中植入人类读者无法察觉的模式，这些模式不会实质性改变输出的整体质量，但持有密钥的人可以用专门的检测器将其找出。OpenAI 表示，将向有限数量的研究人员和组织开放检测器的访问权限，并为其他方提供申请审批流程，以便日后逐步加入。

阅读全文

评论