OpenAI 与四家独立机构签署嵌入式评估协议
OpenAI 宣布已与 Apollo Research、METR、Transluce、Goodfire 四家独立评估机构签署协议,启动首阶段「嵌入式评估」。评估方将获得模型检查点、源代码、训练与评估数据、监控系统、技术文档,以及与研究人员和工程师直接沟通的权限,在较长时间内评估模型对齐情况和安全防护措施的有效性。首阶段聚焦训练期和内部使用中的对齐与防护,补充其安全案例。Apollo Research 分两阶段检验四项主张:训练未激励颠覆行为、强评估与红队测试未诱发颠覆、内部使用中模型未尝试颠覆、颠覆推理可被检测。此…
推荐理由了解前沿实验室如何向外部开放内部权限做安全评估,可对照自家模型的安全流程。