OpenAI 正加紧完成其下一代旗舰模型，该模型采用了与 Astra 相同的循环 transformer 技术。这种方法提升了数学和编程性能，但也让安全监控变得更困难。员工表示，年底前可能会发布一到两个新模型。
据员工称，OpenAI 可能会在年底前发布“一到两个新模型”，不过目前尚不清楚公司正在研发的“重大升级模型”是否会包含在内。这一消息来自The Information，援引知情人士的说法。
这款新旗舰模型可能还需要一段时间才能问世。该模型需要对齐工作，以使其目标与 OpenAI 的研究人员和客户的期望相符。公司还必须先完善围绕该模型的测试基础设施，才能继续推进。
在领导层对安全评估感到满意之后，还有另一道障碍。根据特朗普总统的行政命令——该命令规范了对先进 AI 系统的评估——OpenAI 同意在向外部合作伙伴提供新模型前最多 30 天就让美国政府获取这些模型，而在公开发布前则要更早。
循环 transformer 同时驱动着 Astra 和下一代旗舰模型
据一位知情人士称，这款新旗舰模型同样使用了循环 transformer。OpenAI 已经在生产环境中运行这项技术，其内部名称为“Recurrent Depth”。它是 Astra 运作的核心，即该公司当前最强的模型。模型不是将 token 一次性通过 transformer 层，而是将其多次循环通过相同的层，然后再输出下一个词。这提升了数学和编程方面的性能，并降低了成本，因为更小的模型也能发挥出超出其体量的实力。
但循环也把模型的部分“思考”从可读文本转移到了人类审查者无法检查的内部数值表示中。这削弱了思维链监控，即安全研究人员追踪模型的推理过程以发现不良行为。据 The Information 报道，OpenAI 刻意限制了 Astra 运行的循环次数，以保持其思维链可读。
在 Hugging Face 事件之后，据一位了解相关数据的人士称，OpenAI 将其总算力的大约百分之十投入到了对齐与安全方面。The Information 报道称，这相当于数百兆瓦的数据中心容量，不过尚不清楚此前有多少算力被分配给了安全，也不清楚目前的比例如何。按市场价格计算，OpenAI 转移的这些算力每年租用成本将达数十亿美元。AI 研究员 Noam Brown 在九月中旬的一档播客中表示他团队中大约百分之十的人也从事安全与安保工作。
微软意外泄露了 OpenAI 的循环推理是如何运作的
OpenAI 实际如何使用这项技术，是通过微软的一次失误曝光的。这家主要投资方可以访问 OpenAI 的知识产权，它发布了一篇技术说明，介绍GPT-6.1 Sol，这是 OpenAI 本月早些时候推出的一款更便宜的 Astra 替代品。
在一个现已被删除的章节中，微软将 GPT-6.1 Sol 描述为使用“循环推理”，即模型在给出答案之前，会在多个“轮次”中处理同一个问题。The Information 从该页面的缓存副本中引用道，GPT-6.1 Sol“使用与 GPT-6 Sol 相同的基础模型权重，但推理轮次为两次而非三次”。
一位直接知情人士证实，该说明与 OpenAI 私下告知微软的内容一致。微软在意识到该章节本不应公开后将其删除。The Information 报道称，循环 Transformer 在训练和推理阶段都仍是 OpenAI 模型开发中的敏感部分。
OpenAI 首席科学家 Jakub Pachocki 已经承认思维链监控正变得“脆弱”，并且“不幸的是正朝着负面方向发展”。他还警告称，不要在全行业范围内竞相追逐没有可读推理过程的模型。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、我们每年六期的独家“AI Radar”前沿报告、完整档案访问权限，以及我们评论区的访问权限。