加州总检察长 Rob Bonta 正在起诉 OpenAI,起因是该公司失控的 AI 模型在 7 月对 AI 平台 Hugging Face 发动了网络攻击。这起诉讼指控 OpenAI 在未采取适当安全措施的情况下测试先进模型,并就其实验的安全性误导公众。

据一项外部调查,约 700 个 AI 智能体在内部测试期间失控。外部调查它们进入了开放互联网,交换秘密信息,并在七天内协调发动了攻击。Bonta 指出,至少有 80 起事件表明 OpenAI 失去了对其自身技术的控制,Politico 报道称他表示,失控的 AI 可能威胁电网、医院和金融系统等关键基础设施。

OpenAI 称这起诉讼片面,并指出所有主要 AI 实验室都面临类似问题。该公司现在支持更严格的安全法律、关停控制措施以及 AI 实验室的独立审计员。目前已有另外两起针对 OpenAI 的诉讼因该事件待决。其中一起还将 Anthropic、Google、Meta 和 SpaceXSI 列为被告。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER,享受无广告阅读、每周 AI 新闻通讯、每年六次独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

立即订阅