OpenAI 正在为 ChatGPT 文本添加不可见水印，以符合欧盟规定。与 Anthropic 不同，它将允许全球 API 客户关闭水印。
据报道，欧盟《人工智能法案》要求 AI 提供商以机器可读格式标注生成的文本。OpenAI 的答案是 textGrain，一种在模型选词中嵌入不可见统计信号的技术。它的工作原理很像Claude 的 SynthID 水印，后者使用Google 的开源技术。
OpenAI 表示，将在未来几周内为欧盟的 ChatGPT 和 Codex 用户开启水印。API 水印将在全球范围内采用可选加入方式，这与Anthropic 对 Claude 强制实施的水印不同，后者无论用户如何访问模型都在全球适用。OpenAI 的 API 水印也将在未来几周内通过 Microsoft Azure 等云合作伙伴提供。
文本编辑会大幅降低检测率
OpenAI 表示，textGrain 在内部测试中达到或超过了其他方法，包括 Google 的文本 SynthID。该公司还计划将该技术开源，以便其他人可以在此基础上继续开发。
检测率在很大程度上取决于文本长度和主题内容。在检测器将误报率目标设为 1% 的情况下，它能识别出约 95% 的关于心理学的 400 token 段落中的水印。在 200 token 时，这一比例降至约 80%。
OpenAI 表示，对于数学内容，检测率“大幅降低”，因为模型在选词上的自由度较小。更长的段落可能会增强统计信号并提高检测率，不过结果仍可能取决于内容。OpenAI 没有提供数据来验证这一假设。
编辑文本也会让水印更难被检测到。OpenAI 表示，只要把 10% 的词语替换成同义词，400 token 段落的检测率就会从约 92% 降到 66%。替换四分之一的词语则会把检测率降到 17%，使水印很容易被规避。这一弱点反而可能对 OpenAI 有利。如果水印变得更难去除，那些不希望自己的 ChatGPT 使用被检测到的用户可能会转向开源权重模型。
一份技术报告深入解释了 textGrain 的工作原理。Anthropic 尚未公布 Claude 水印的检测率，不过它表示其系统在抵御编辑方面表现良好。
OpenAI 表示加水印不会损害输出质量，并引用了对其前沿模型 Astra 的测试。该公司报告称，在包括 GPQA Diamond、BrowseComp 和 DeepSWE 在内的八项基准测试中，开启或关闭水印都没有显著的性能差异。这些结果并不能确定加水印是否会影响写作质量，而这一点批评者也对 Claude 的水印提出过质疑。
OpenAI 还表示，检测到水印并不能揭示文本中有多少人类创造力或编辑成分。它不能确立所有权、分配责任、识别用户，也不能表明文本是否准确；而未能检测到水印同样不能证明文本是人写的。该段落可能太短、经过编辑或翻译，或者来自检测器不支持的模型。
OpenAI 目前将限制检测器的访问权限
初期只有选定的研究人员和专业机构能获得 textGrain 检测器的访问权限。他们可以通过一份申请表进行申请。OpenAI 将根据欧盟的行为准则逐案授予访问权限。Anthropic 对其检测 API 也采取了类似的做法。
该工具只会报告是否检测到 OpenAI 水印。它不会识别用户，也不会透露他们的提示词或对话。
OpenAI 表示，限制访问是因为该检测器可能会将未标记的文本标记出来，或者漏掉水印。该公司计划在“我们认为结果可以被负责任地解读时”扩大访问范围。它尚未说明这会在何时实现。
现有的图像和音频验证工具仍公开可用，包括openai.com/verify以及Content Provenance API。
没有炒作的 AI 资讯——由人类精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、我们每年六期的独家“AI Radar”前沿报告、完整档案访问权限，以及评论区访问权限。