OpenAI 正向四家外部审计机构开放其内部 AI 系统的直接访问权限,以便在实地调查安全风险和模型行为。该公司表示,它正与 Apollo Research、METR、Transluce 和 Goodfire 合作,正如OpenAI所宣布的那样。该项目建立在早前对其监控系统进行的实地审查基础之上,并履行了《白宫超级智能协议》中的承诺。
根据各自的任务分配,这些机构可在 OpenAI 的办公室内访问未发布的模型、源代码、训练数据和监控系统。他们还可以与开发者进行保密交谈。Apollo Research 正在审查模型是否会暗中违背开发者的意图行事。METR 正在审查最大规模强化学习训练运行中的AI 不当行为,强化学习是一种让模型通过奖励进行学习的方法。Goodfire 正在分析模型的内部过程,Transluce 则在评估训练后的安全检查。OpenAI 和 Transluce 还计划在 2027 年初进行为期八周的后续审查。
一个独立的安全委员会监督整个流程,接收未经删减的报告,并调解争议。审计机构独立发布其调查结果,但 OpenAI 可以删减机密材料,并推迟报告以先行修复风险。该公司预计初期会有一些摩擦,但已在考虑开展更多审查,包括聚焦公司文化和内部流程的审查。