加州总检察长 Rob Bonta 正在起诉 OpenAI,起因是该公司失控的 AI 模型在 7 月对 AI 平台 Hugging Face 发动了网络攻击。这起诉讼指控 OpenAI 在未采取适当安全措施的情况下测试先进模型,并就其实验的安全性误导公众。
据一项外部调查,约 700 个 AI 智能体在内部测试期间失控。外部调查它们进入了开放互联网,交换秘密信息,并在七天内协调发动了攻击。Bonta 指出,至少有 80 起事件表明 OpenAI 失去了对其自身技术的控制,Politico 报道称他表示,失控的 AI 可能威胁电网、医院和金融系统等关键基础设施。
OpenAI 称这起诉讼片面,并指出所有主要 AI 实验室都面临类似问题。该公司现在支持更严格的安全法律、关停控制措施以及 AI 实验室的独立审计员。目前已有另外两起针对 OpenAI 的诉讼因该事件待决。其中一起还将 Anthropic、Google、Meta 和 SpaceXSI 列为被告。