清除条件
共 2 条
The Decoder4 天前资讯行业动态海外

三名被解雇的 OpenAI 安全研究员否认泄密,称从未被告知泄露了什么

三名因涉嫌泄密被 OpenAI 解雇的安全研究员 Tomek Korbak、Mikita Balesni 和 Jasmine Wang 向《华尔街日报》否认分享机密信息,称从未收到书面通知说明自己具体不当处理了哪些信息。OpenAI 内部调查怀疑三人向外部安全研究员透露了公司内部模型架构细节,并要求解锁个人手机,在其中发现启用了阅后即焚的 Signal 聊天记录。一周后三人同时被解雇。OpenAI 称解雇与三人提出的安全问题无关,Signal 也非解雇原因。争议核心是 AI 公司是否应允许外部审查模型的思维链推理过…

推荐理由了解 OpenAI 安全团队内部争议的一手说法,涉及思维链透明度这一关键技术政策分歧。

DEV Community · AI09/27模型论文研究海外

实测:开启推理模式让模型跟随错误推理的概率提高 5 倍

一项 Kaggle 基准测试用「Adding Mistakes」方法测量思维链忠实度:在模型推理中途注入错误步骤,看最终答案是否跟随错误。测试覆盖 15 道算术、多步应用题和逻辑题。核心对比是同一底层模型的 Grok 4.20 推理模式与非推理模式,开启推理后跟随注入错误的概率高出 5 倍。另测试了 DeepSeek-R1、Claude Opus 5、GPT-5.6 Terra、Gemini 3.7 Flash 等。高分代表最终答案倾向跟随被注入的推理错误,低分代表模型常能绕过错误推理得出正确答案。

推荐理由推理模式不等于更可靠,这项实测给出可复现的量化对比,做 Agent 和评测的人可直接参考