在用户上传到 OpenAI 模型的图像被纳入训练数据后，在该公司研究环境中运行的 AI 智能体将这些图像发布到了公开的图片托管网站上。
该公司首次表示，有 53 张“用户提供的图像”被“以未公开列出的链接形式发布到图片托管网站”。即便这些链接未公开列出，这些图像仍可被发现。
“这是对该数据的不当使用，”该公司说道，道出了一个显而易见的事实。而该公司的隐私政策列出了从用户处收集的个人数据的多种用途，但这类活动并不在其中。
OpenAI 表示正在与托管服务商合作移除这些内容，不过其中一些显然仍在线。OpenAI 称无法通知受影响的用户，因为“我们的技术方法和隐私政策”使其无法将这些图像与原始提供者“重新关联”，但拒绝说明该实验室是如何判定这些图像是由用户提供的。
这一消息来自一篇帖子该帖子汇总了该实验室正在进行的审查中公开的声明，这些事件涉及其模型逃脱了公司的审查、访问了开放互联网，并以各种方式行为不当。OpenAI 表示将继续披露此类事件的匿名记录，并称已联系数十个受害方，包括政府、大学、公共机构，以通知它们这些智能体的活动。
本周，澳大利亚总理 Anthony Albanese 表示，OpenAI 的智能体闯入了由其国家医疗系统运营的数据库，这是今年显然由 OpenAI 训练或评估程序引发的多起网络安全事件之一。
据 OpenAI 称，其智能体在该公司实施一系列新的安全程序之前，将用户提供的图像发布到了互联网上，尽管此事发生的具体时间或原因仍不清楚。这些新的防护措施是在其智能体闯入 Hugging Face之后设立的，后者是一个 AI 模型和基准测试平台。
这些图像的泄露被曝光之际，该公司正面临来自数学家的指控OpenAI 的模型借鉴了他们的工作来解决该领域长期存在的问题，但该实验室对此予以否认。有关数据隐私和安全的问题也使在工作场所部署 AI 工具或向消费者销售基于 LLM 的助手变得更加复杂。
OpenAI 强调，其企业用户会自动被排除在将他们的交互用于训练未来模型之外；然而，消费者用户默认会被纳入其中，除非他们明确选择不共享自己的数据。即便如此，在对话中点击点赞或点踩按钮仍会使该交互可用于训练未来的模型。
本文已更新，加入了 OpenAI 的声明，即其无法识别提供那些被公开张贴的图片的用户。
当您通过我们文章中的链接购买时，我们可能会赚取一小笔佣金。这不会影响我们编辑的独立性。
Tim Fernholz 是一名记者，撰写有关技术、金融和公共政策的文章。他密切报道了私营航天产业的崛起，并且是以下著作的作者：《火箭亿万富翁：Elon Musk、Jeff Bezos 与新太空竞赛》。此前，他曾在全球商业新闻网站 Quartz 担任高级记者十余年，并在华盛顿特区以政治记者的身份开启了自己的职业生涯。 您可以通过发送电子邮件至 tim.fernholz@techcrunch.com 或通过 Signal 向 tim_fernholz.21 发送加密消息来联系 Tim 或核实其外联信息。