上个月，我们承诺加强独立的第三方评估对我们的模型和安全实践进行评估。我们还签署了《白宫超级智能协议》，其中各公司承诺与独立的外部审计师或评估师合作。今天，我们宣布已开始向来自METR的团队提供类似员工的访问权限，该机构是一家评估前沿 AI 模型的非营利组织。
METR 将发布其风险评估结果。在过去一年中，我们与 METR 合作进行了多项针对我们风险报告的审查。我们还与SecureBio和Accenture作为评估方合作，并正在与其他几家组织进行早期讨论，包括Hugging Face。
在此，我们解释与评估方合作的方式。
我们为何与独立评估方合作
随着模型变得更加强大，它们需要更强的保障措施和更具挑战性的风险评估。我们希望对自己的决策公开负责。但我们无法公开分享所有与安全工作相关的信息。其中一些可能对恶意行为者有用，或是商业敏感信息，如算力或训练信息。相反，我们向第三方评估方提供深入访问我们信息的权限，并让他们分享关于构建我们模型所涉风险的证据和合理结论。我们旨在缩小评估方对前沿 AI 公司系统的了解与公司自身了解之间的差距。
要评估前沿模型，评估方需要以下条件：
- 专业知识以评估前沿模型的能力，包括理解评估可能出错的方式，例如对齐伪装。
- 独立性：他们不应持有被评估公司的股权，也不应在财务或运营上依赖该公司。
- 足够的访问权限以有意义地评估风险。除了访问最新模型外，评估方还需要了解这些模型是如何训练的、我们的保障措施如何运作等。
- 自由发布观察和评估 关于模型或流程的。
尽管这个类比并不完全准确，但银行监管的逻辑与此类似。银行比外部人士更了解自身的风险状况，因此监管机构会向大型银行派驻常驻检查员。如果一家银行的风险承担行为可能威胁公众利益，第三方会试图提前发现这一点。
对于 AI 行业而言，这是迈向稳健的安全监督的一步。我们正与多家评估机构快速推进，并积极了解何种合作方式行之有效。我们承诺会持续分享最新进展。
我们所说的“员工级访问权限”是指什么
我们已为六名 METR 员工办理了入职，为他们提供公司硬件、办公空间，以及与我们自身风险评估团队所拥有的权限大致相当的内部工具和系统访问权限。除少数明确定义的类别（例如客户数据、受律师-客户保密特权保护的信息，或有关我们模型架构的信息）之外，Anthropic 员工被鼓励像对待从事对齐风险工作的同事一样与他们分享信息。1
METR 将发布其对我们风险水平、事件或实践的分析。Anthropic 不能否决其发布，但如果信息属于上述等狭窄的预定义类别，我们可以要求他们进行脱敏处理。METR 可以自由公开描述我们的脱敏处理，并说明其是否认为脱敏是合理的，只要不泄露被脱敏的信息即可。
我们与 METR 的合作仅限于一个在可执行协议下运作的小型团队。METR 的其他员工与该团队的工作相互隔离，包括与我们合作其他项目的研究人员。嵌入式评估让少数在 Anthropic 安全标准下工作的合格人员能够近距离了解我们的运作方式。这并非其他组织获取我们信息或我们客户及合作伙伴信息的方式。
我们的其他评估机构合作
我们正在推进其他几项合作。由于这些合作仍处于早期阶段，我们向这些评估者提供的信息较为有限，他们的发布权限也较为有限。我们在这些早期合作中的目标是确保我们的合作伙伴保护机密信息，并具备评估我们模型所需的资源和专业知识。随着合作推进并建立信任，我们希望逐步全面引入更多独立评估者。
我们正在为评估者制定三个层级的访问权限。随着时间推移，我们希望有多个评估者处于第三层级，每个团队都能发布他们对我们风险态势和关键决策的独立分析。
在第一层级，评估者开展范围狭窄的风险调查。我们决定向第一层级评估者提供哪些访问权限，评估者可在获得我们批准后发布其发现。
在第二层级，评估者无需我们批准即可发布，并且可以访问更多信息。我们仍可要求移除特定类别的信息，不过评估者可以就我们的删减是否合理发表他们的看法。
第三层级是我们与 METR 所描述的安排，拥有类似员工的访问权限，以及类似于第二层级的发布权限。
SecureBio目前处于第一层级。它正在审查我们8 月风险报告中的化学和生物武器章节，此前已完成并发布了一项试点审查，针对我们之前的风险报告。此次审查完成后，我们将考虑转向拥有更多访问权限和发布权限的项目。
与 Accenture和 Faculty，我们正在推进一项雄心勃勃的合作，包括评估和红队测试模型、开展对齐评估、测试模型防护措施，以及在我们各组织内建设相关能力。
我们是自愿引入评估者的，我们认为每一家前沿 AI 公司都应该这样做。