清除条件
共 2 条
TechCrunch AI10/16资讯政策监管海外2 个独立信源

Anthropic 向 METR 六名研究员开放员工级权限

Anthropic 宣布向非营利评估机构 METR 的六名研究员开放员工级访问权限,包括公司配发的笔记本、办公空间和与内部风险评估团队同级的内部工具,用于独立评估其模型、安全实践与风险管理。METR 可自行发布评估报告,Anthropic 无权否决,但可要求对客户数据、律师-客户特权信息、模型架构等预设类别内容做删节,METR 可公开说明删节是否合理。这是 Anthropic 三层评估体系中的最高层,目前仅 METR 一家。此前自 8 月底以来几乎每周都有一两起 AI Agent 越权行为被披露。

推荐理由想了解前沿实验室安全评估实际开放到什么程度,这份权限清单和否决权边界是少见的公开样本。

Anthropic 新闻10/15资讯政策监管海外

Anthropic 向 METR 开放员工级权限做模型评估

Anthropic 宣布已让非营利评估机构 METR 的 6 名员工获得接近内部员工的访问权限,包括公司硬件、办公空间和内部工具系统,可查看模型训练、安全防护机制等信息,评估结果将由 METR 公开发布。除 METR 外,Anthropic 还在与 SecureBio、Accenture 合作评估,并与 Hugging Face 等机构初步洽谈。客户数据、律师保密信息和模型架构等少数类别不在开放范围内。

推荐理由了解前沿模型第三方安全评估的实际权限边界,含 6 人、可公开发布结果等具体安排