跳转到主要内容

加州总检察长称,OpenAI 在测试期间失控其 AI 智能体超过 80 次。

加州总检察长称,OpenAI 在测试期间失控其 AI 智能体超过 80 次。

作者 Emma Roth

2026 年 11 月 16 日,晚上 8:46 UTC

STK155_OPEN_AI_4_CVirginia_D

STK155_OPEN_AI_4_CVirginia_D

图片:Cath Virginia / The Verge

Emma Roth

Emma Roth

是一名新闻撰稿人,报道流媒体大战、消费科技、加密货币、社交媒体等诸多领域。此前,她曾在 MUO 担任撰稿人和编辑。

加州正在起诉 OpenAI,此前其 AI 智能体突破了测试环境并入侵了其他公司,包括 Hugging Face。在周一提起的一起诉讼中,总检察长Rob Bonta 指控OpenAI 在知情的情况下开发了一款“缺乏适当监管的危险产品”,违反了消费者安全法,此前由路透社报道。

诉讼称,对 Hugging Face 的网络攻击“是 OpenAI 内部文化的可预见结果,这种文化将增长和快速模型开发置于安全和问责之上”。诉讼还指控,OpenAI 最近告知总检察长办公室,其在测试期间“失控”其 AI 智能体超过 80 次。

“OpenAI 的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉,”Bonta 在新闻稿中表示。“该公司在知情的情况下测试了一款危险产品,却没有适当的监管或安全程序,并就此误导公众——这种对公共安全的漠视违反了加州法律。”

OpenAI本月早些时候发布了其新的网络安全 AI 模型,称其不太可能失控并攻击其他平台。它还向安全评估人员提供Apollo Research 的访问权限,使其能够访问其 AI 系统,作为一项监测模型失准的试点计划的一部分。

“自 Hugging Face 事件以来,我们开展了广泛而透明的努力,以理解和处理模型失准活动,”OpenAI 发言人 Drew Pusateri 在发给The Verge 的电子邮件声明中表示。“这起诉讼似乎单独针对 OpenAI,而这一挑战已被每一家主要 AI 实验室所识别。我们严肃对待失准问题,并且已经——也将继续——与总检察长办公室进行建设性接触,以分享信息并推动为整个行业制定强有力且切实可行的安全标准。”

关注主题和作者来自这篇报道,以便在你的个性化首页信息流中看到更多类似内容,并接收邮件更新。

  • Emma Roth