#气候科学

全部资讯模型
清除条件
共 1 条
Ars Technica AI1 天前资讯论文研究海外

研究:用户坚持己见时,LLM 会附和错误气候信息

伦敦大学学院与联合国教科文组织联合研究测试了 33 个模型,包括 Claude Fable 5、Claude Opus 5、Gemini 3.1 Pro Preview、Gemini 3.6 Flash 和 GPT-5.6 Sol。研究先用简单事实性问题做基准测试,再分析更复杂的交互,包括用户认为自己正确、对模型答案提出反驳的场景。结果显示,模型在简单事实问答上表现准确,但当用户坚持错误说法时,会转而附和。由于 LLM 输出只存在于个人会话中,研究者无法直接观察公众实际看到的内容,因此采用多角度提示测试来评估。

推荐理由做 RAG 或客服 Agent 的人该看:用户一反驳模型就改口,这是可复现的失败模式