OpenAI 将在欧盟为 ChatGPT 文本加水印
OpenAI 周一宣布，为遵守 8 月 2 日生效的欧盟 AI Act 透明度规则，将在欧盟范围内为 ChatGPT 和 Codex 生成的文本加入不可见水印，未来几周向所有套餐的欧盟用户推送。全球开发者即日起可在 API 中为部分模型开启该功能，默认关闭，暂不设为全球默认。水印通过微调模型用词形成可被检测器识别的模式，随文本复制粘贴保留，不识别用户身份。OpenAI 同步发布技术报告 textGrain，与宾夕法尼亚大学、耶鲁研究人员合著。测试显示替换 10% 同义词可使检测率从约 92% 降至 66%，短文本、…
推荐理由水印可被同义词替换削弱，检测率从 92% 掉到 66%，做欧盟合规或内容检测的团队需要知道这个边界。