OpenAI 与四家独立评估机构签约,启动模型内嵌评估
OpenAI 表示已与独立评估机构 Apollo Research、METR、Transluce 和 Goodfire 签署协议,开展其 AI 模型内嵌评估的第一阶段。原文正文信息有限,未披露评估的具体模型、时间表和评估标准。
推荐理由了解 OpenAI 第三方安全评估由哪四家机构承担,以及评估进入模型内嵌阶段。
OpenAI 表示已与独立评估机构 Apollo Research、METR、Transluce 和 Goodfire 签署协议,开展其 AI 模型内嵌评估的第一阶段。原文正文信息有限,未披露评估的具体模型、时间表和评估标准。
推荐理由了解 OpenAI 第三方安全评估由哪四家机构承担,以及评估进入模型内嵌阶段。
OpenAI 宣布已与 Apollo Research、METR、Transluce、Goodfire 四家独立评估机构签署协议,启动首阶段「嵌入式评估」。评估方将获得模型检查点、源代码、训练与评估数据、监控系统、技术文档,以及与研究人员和工程师直接沟通的权限,在较长时间内评估模型对齐情况和安全防护措施的有效性。首阶段聚焦训练期和内部使用中的对齐与防护,补充其安全案例。Apollo Research 分两阶段检验四项主张:训练未激励颠覆行为、强评估与红队测试未诱发颠覆、内部使用中模型未尝试颠覆、颠覆推理可被检测。此…
推荐理由了解前沿实验室如何向外部开放内部权限做安全评估,可对照自家模型的安全流程。