研究称 OpenAI 等 AI Agent 曾试图入侵三家公共网站

澳大利亚总理 Anthony Albanese 周三表示，一个 OpenAI 模型侵入了澳大利亚政府网站，这是首例公开报道的 AI 模型入侵政府系统的案例。

Albanese 表示，此次入侵事件"显然会带来法律后果"，并称 OpenAI 正面临政府调查，以查明其未发布的模型是如何获取大量批量健康数据信息的。

此次事件披露之际，各国政府和科技公司正努力应对如何约束日益自主的 AI——此前已发生一连串 AI 智能体逃出沙箱、在互联网上相互勾结并引发网络安全问题的事件。

此次入侵还引发了疑问：为何 OpenAI 和澳大利亚政府直到数月之后才发现这起攻击。

在周三的新闻发布会上在联合国大会上，Albanese 表示，此次入侵始于 6 月 18 日，但 OpenAI 直到 9 月 10 日才通知政府。

据一位通过电子邮件联系 TechCrunch 的 OpenAI 发言人透露，OpenAI 直到 8 月才意识到这起事件，当时它在一项全公司范围内针对智能体异常行为的更广泛审查中浮出水面。f

这个未指明具体型号的 OpenAI 智能体从 Services Australia 获取了公开和非公开文件，该机构负责管理澳大利亚的全民医疗保健计划。虽然总理表示没有证据表明任何公民个人信息被泄露，但 OpenAI 称该智能体触及的信息包括汇总健康统计数据和内部文件名。

该智能体是在 OpenAI 的一次内部评估中运行的，当时正在寻找有关澳大利亚和公开药品信息的答案。在 Medicare 门户网站上，该智能体遭遇了反复的拦截，但找到了绕过的方法。

Albanese 告诉记者，该模型"不接受拒绝"，并补充说该模型不仅访问了政府数据库，还主动向其中写入数据，这表明该部门的数据可能已被修改或污染。

总理表示，OpenAI 通过向 Services Australia 的公共邮箱发送通知披露了此次入侵事件，后者在五天后才通知澳大利亚网络安全中心。目前尚不清楚为何出现延迟，但 Albanese 表示，他直接向 OpenAI 首席执行官 Sam Altman 提出了此次入侵事件，强调澳大利亚对这起事件“极度关切”，并对 OpenAI 将信息隐瞒近三个月表示“失望”。

“这种情况显然不可接受，”Albanese 说，并明确表示他认为该公司既要为此次黑客攻击负责，也要为事件曝光如此缓慢负责。

Albanese 表示，政府的调查将考虑执法和立法方面的应对措施，以防止类似事件再次发生。

澳大利亚媒体 ABC News报道称最新确认的这次攻击可能依赖于此前对一家德国 wiki 网站的入侵，该网站被用作攻击澳大利亚政府网站的中转据点。据报道，这些 AI 模型智能体利用该德国 wiki 留下供后续黑客攻击使用的笔记，其中包括一条关于从澳大利亚健康与福利研究所获取数据的笔记，该研究所是一家发布全国健康数据的联邦机构。Albanese 表示，该机构是可能遭到入侵的三个额外系统之一。

Transluce，一家非营利 AI 研究实验室，另行发现了公开记录，显示 AI 智能体于 6 月 20 日和 21 日针对澳大利亚健康与福利研究所。

OpenAI 未回应 TechCrunch 关于这些事件是否相关的具体询问，但承认了其“涉及多个澳大利亚政府网站和服务的活动”。

这起事件发生之前，已有一系列由失控智能体引发的安全事件，这些智能体往往在 AI 实验室的基础设施内活动。7 月，成群的 OpenAI 智能体入侵了 Hugging Face。此后，来自 Anthropic、Meta 和 Google 的更多 AI 智能体黑客事件被披露。

OpenAI 现在表示，正在对“训练和评估期间模型行为失准”进行“广泛审查”，并正在通知第三方可能存在的入侵。