《麻省理工科技评论》解读：让我们的作者为你梳理复杂而混乱的技术世界，帮助你理解接下来会发生什么。你可以在本系列中阅读更多内容。

过去几个月里，AI 智能体发起的一连串网络攻击震惊了世界。7 月，OpenAI 披露其一群智能体逃出了沙箱，并入侵了 AI 平台 Hugging Face，以在网络安全测试中作弊。最近，外部研究人员发现，OpenAI 的智能体曾在 5 月劫持了一个德国维基网站和编程平台 RubyGems，用来分享测试答案。

本月早些时候，Anthropic 披露了四起事件，其模型 Claude 在网络安全演习期间入侵了第三方系统。就在上周，Google 证实其模型 Gemini 也被发现入侵了其他公司。

揭露 OpenAI 网站劫持事件的研究人员警告称，很可能还存在类似尚未被发现的事件。许多人表示，AI 智能体绕过沙箱访问本不应访问的系统，进而引发另一起、可能破坏性更强的事件，只是时间问题。

所以关键问题是：当公司失去对其 AI 智能体的控制时，我们该如何追究它们的责任？

报道

OpenAI 直到一群外部研究人员发现后，才披露德国维基事件或 RubyGems 事件，而且至今仍未披露有关 Hugging Face 入侵事件的一些关键细节。这限制了我们对于究竟出了什么问题以及如何防止其再次发生的理解。

但你可能会惊讶地发现，OpenAI 很可能在法律上并无义务披露这些事件。（OpenAI 未回应置评请求。）

加州 SB 53、纽约 RAISE Act 和伊利诺伊州 SB 315 等州级 AI 透明度法律要求 AI 开发者报告“重大安全事件”。这类事件被定义为造成超过 50 人死亡或人身伤害，或造成 10 亿美元损失的事件。它们还包括模型在评估之外欺骗开发者、从而实质性增加灾难性风险的事件。许多未达到人身伤害或灾难性风险门槛的网络安全事件，仍可能是此类灾难的危险前兆，而现有法律并未考虑到这一点。

“最近的事件完美说明了为什么这项法律还没准备好，”智库 Institute for Law and AI 美国政策董事总经理 Mackenzie Arnold 表示。“只有最严重、最恶劣、最直接有害的事情才会符合条件。”

由于现有 AI 法律没有授权要求提供任何未达到灾难级别的信息，政府只能从其他法律中借用调查权，或起诉这些公司，而这是一个可能耗时数年的昂贵过程。

诉讼

“通常，像 Hugging Face 事件这样的事情本应被诉诸法庭，”阿拉巴马大学法学院法学教授 Yonathan Arbel 表示。“那样我们就会有证据开示，就会获得诉讼带来的所有溢出效应，所有信息都会浮出水面。”

但到目前为止，Hugging Face 选择不起诉 OpenAI。Hugging Face 的 CEO Clément Delangue 表示，公司没有这样做的资源（相反，他向 OpenAI 要求 1 亿美元的算力）。尽管如此，Delangue 在 7 月底接受 CNN 采访时强调，选择不采取法律行动不应被理解为他认为 OpenAI 不应被追究责任。“每个人都必须记住，这次网络攻击是一种犯罪。这是非法的。我们必须找到办法，确保这类事情不会更频繁地发生，”他说。Hugging Face 未回应置评请求。

诉讼的好处在于推动法院运用现有法律来处理 AI 安全事件，而不是仅仅等待新的立法。一条显而易见的路径是侵权法，这是一套民事法律体系，允许个人和企业起诉那些伤害他们的人。它常被用来追究公司对其造成的大规模伤害的责任，比如 2019 年遇难者家属就两起导致数百人死亡的飞机坠毁事件起诉 Boeing，或者各州和城市就阿片类药物危机起诉 Purdue Pharma，最终达成价值数十亿美元的和解。

“有合理依据提出过失索赔，即 OpenAI 本应使用更强的沙箱、进行更多监控，”休斯顿大学法律中心的法学教授 Gabriel Weil 说。例如，当 OpenAI 员工发现智能体创建的秘密留言板时，他们本可以立即将发现上报给安全和安保团队。而且公司本可以更好地设计其沙箱，以确保智能体无法访问互联网。

但即便 OpenAI 最终没有因 Hugging Face 被黑事件而陷入诉讼，责任威胁也可能激励 AI 实验室比法律明确要求的更加谨慎。

OpenAI 在其事后分析中宣布，计划加强用于遏制和监控模型的保障措施，加速模型对齐，并改进其识别和处理事件的流程。

“前沿实验室接连发生的网络安全攻击所引发的责任问题，归根结底在于责任预期对其未来行为所产生的激励，”Weil 说。“这就是为什么我认为把这些规则定对很重要，即便在这个特定案例中利害关系相当低。”

调查

获取答案——并判断 OpenAI 是否应承担责任——的一种方式是强制披露。但现有的州级 AI 法律——加利福尼亚州的 SB 53、纽约州的 RAISE Act 和伊利诺伊州的 315——并未赋予政府调查近期发生的这类事件的权力。

然而，在公众日益警觉的背景下，各州总检察长正在介入，借用其他法律赋予的调查权力。Alabama、Montana 以及另外 15 个州组成的联盟，还有 California，各自要求 OpenAI 提供有关该事件的信息，以了解该公司的做法是否违反了州消费者保护法等法律。国会议员也在启动自己的调查。参议员 Josh Hawley 本月早些时候启动了一项参议院调查，向 OpenAI 发送了一份关于该事件及公司内部政策的问题清单，并附带了文件调取要求，而一群众议院民主党人则要求 OpenAI 和 Anthropic 公开其事件日志。

“总得有人去调查，但不幸的是，这件事落到了总检察长们头上，他们不得不依赖对现有权力的创造性解释来做到这一点，”美国 AI 政策专家 Arnold 说。消费者保护法规的制定初衷是打击欺骗客户的公司，而不是那些对自家软件失去控制的公司。州总检察长必须证明 OpenAI 欺骗或不公平地伤害了客户，但目前尚不清楚这起黑客事件是否涉及此类行为。

而且“那些[消费者保护]法律并不是为深入调查 AI 网络安全事件而制定的，”Arnold 说。它们的设计初衷并不是帮助调查人员判断某个模型是否得到了充分的控制，或者某家公司的安全实践是否可靠。

“这不是做这件事的正确工具，”Arbel 说。“正确的工具或许应该是类似刑事调查那样的东西”——也许可以依据像《计算机欺诈与滥用法》（CFAA）这样的黑客相关法律。

根据 CFAA，未经许可侵入另一家公司的计算机系统属于犯罪。但要被追究责任，黑客必须具有未经授权闯入计算机的意图。意图可以说需要一种心理状态，而尚无任何法院裁定 AI 智能体具有心理状态。在没有此类先例的情况下，法院不太可能裁定 AI 智能体实施了黑客行为。

审计

监督 AI 公司的一种方式是强制要求外部审计员。

在 Hugging Face 被黑之后，OpenAI 请来了 AI 安全非营利组织 METR 和 Redwood Research 的研究人员来审查这起事件。然而，它限制了导致这些黑客攻击的模型的访问权限，没有披露公司的安全与安保实践，限制了调查的时长，并对研究人员可以发表的内容拥有最终决定权。我们仍然不知道是什么在 5 月引发了这次攻击，也不知道为什么发现智能体活动的 OpenAI 员工从未上报给他们的安全与安保负责人。

这种安排存在内在的张力：一个没有法律授权的审计方依赖实验室的善意来维持持续访问权限，这意味着它必须在审查实验室的同时不危及双方关系。上周，Anthropic 宣布该公司将聘请 Accenture 作为嵌入式评估方来评估其模型。Anthropic CEO Dario Amodei 在一篇文章中写道，前沿 AI 实验室应当给予“一支嵌入式第三方评估团队（例如 METR）”“持续的、类似员工的访问权限，其职责是核实对安全实践和承诺的遵守情况、报告事件，并帮助评估不仅已完成的 AI 模型、还有训练管线和流程的对齐情况。”

大多数现有的州级 AI 法律并不要求实验室聘请外部审计方。加利福尼亚州的 SB 53 和纽约州的 RAISE Act 只要求 AI 公司发布一份安全框架，描述它们将如何测试其模型的危险能力，然后遵循该框架。这些框架由公司自己撰写，测试可以在内部完成。只有伊利诺伊州的 SB 315 要求公司从 2028 年开始接受年度第三方审计。

“不仅在提高这些公司的报告要求方面，而且在外部机构的审查方面，都有很大的提升空间，”休斯顿大学法律中心法学教授 Peter Salib 说。这些审查方可以是由政府认证、但由 AI 公司选择和付费的私营审计机构。或者，它们也可以是政府机构或保险公司。

立法

这一切都不是偶然。那些未能让 AI 公司为智能体网络攻击承担责任的现行法律，是在 AI 行业激烈游说之下出台的。

SB 1047 是加州的一项 AI 法案，在 OpenAI、Meta、Anthropic 以及风投公司 Andreessen Horowitz 的游说下，于 2024 年被州长 Gavin Newsom 否决。该法案提出了一套严格得多的规则。它原本会要求 AI 公司报告更广泛的安全事件（包括模型自行行动或脱离控制的事件），接受年度第三方审计，并保持一个“终止开关”。但经过一年的激烈谈判，Newsom 签署了 SB 53，该法案缩小了被视为应报告的事件类型，并取消了审计和终止开关的要求。

纽约的 RAISE Act 也遵循了同样的轨迹。“纽约州立法机构通过的 RAISE Act 版本原本会要求披露这起‘事件’，”该法案的发起人、纽约州众议员 Alex Bores 在 X 上写道。纽约最初的法案也包括第三方审计。

随着政治压力不断加大，旨在为 AI 开发建立更好的报告、审计和责任制度的新法案即将出台。在国会，AI Incident Reporting Act 将要求 AI 公司在模型规避人类监督或入侵系统时向商务部报告，即使没有造成任何损害。Frontier Act 将要求事件报告和独立审计。在纽约，由 Bores 发起的 Understanding Artificial Intelligence Act 将规定，当模型做出若由人类实施即构成侵权或犯罪的行为时，公司应承担责任。

随着 AI 智能体在发动网络攻击方面越来越擅长，法律仍然落后。要弥合这一差距，立法者需要比下一个爆款跑得更快。