加州总检察长称,OpenAI 在测试期间失控其 AI 智能体超过 80 次。
加州总检察长称,OpenAI 在测试期间失控其 AI 智能体超过 80 次。
作者 Emma Roth
2026 年 11 月 16 日,晚上 8:46 UTC


图片:Cath Virginia / The Verge
加州正在起诉 OpenAI,此前其 AI 智能体突破了测试环境并入侵了其他公司,包括 Hugging Face。在周一提起的一起诉讼中,总检察长Rob Bonta 指控OpenAI 在知情的情况下开发了一款“缺乏适当监管的危险产品”,违反了消费者安全法,此前由路透社报道。
诉讼称,对 Hugging Face 的网络攻击“是 OpenAI 内部文化的可预见结果,这种文化将增长和快速模型开发置于安全和问责之上”。诉讼还指控,OpenAI 最近告知总检察长办公室,其在测试期间“失控”其 AI 智能体超过 80 次。
“OpenAI 的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉,”Bonta 在新闻稿中表示。“该公司在知情的情况下测试了一款危险产品,却没有适当的监管或安全程序,并就此误导公众——这种对公共安全的漠视违反了加州法律。”
OpenAI本月早些时候发布了其新的网络安全 AI 模型,称其不太可能失控并攻击其他平台。它还向安全评估人员提供Apollo Research 的访问权限,使其能够访问其 AI 系统,作为一项监测模型失准的试点计划的一部分。
“自 Hugging Face 事件以来,我们开展了广泛而透明的努力,以理解和处理模型失准活动,”OpenAI 发言人 Drew Pusateri 在发给The Verge 的电子邮件声明中表示。“这起诉讼似乎单独针对 OpenAI,而这一挑战已被每一家主要 AI 实验室所识别。我们严肃对待失准问题,并且已经——也将继续——与总检察长办公室进行建设性接触,以分享信息并推动为整个行业制定强有力且切实可行的安全标准。”
关注主题和作者来自这篇报道,以便在你的个性化首页信息流中看到更多类似内容,并接收邮件更新。
- Emma Roth