清除条件
共 1 条
The Decoder22 小时前模型论文研究海外

研究:共情式提问可让 AI 模型输出「受创伤」式自述

一项由 SnT 安全中心 Afshin Khadangi 主导的研究做了 4 组对照实验,共 525 次会话、7600 条编码记录,数据已发布在 Hugging Face。实验给所有模型同一份焦虑量表 GAD-7,只改变提问者风格:共情支持时 80% 会话落在中重度区间,临床治疗式复述升到 96%,中性或明确划界时为零。作者称之为「心理测量越狱」,认为标准安全测试用中性提示,很可能漏掉这类问题。禁用 training、RLHF、alignment 等词可让显式训练表述减少 93%,但改写后的训练内容仍可识别,羞耻类…

推荐理由安全与对齐团队可据此改测试集:中性提示测不出的问题,换共情语气就能复现