摘要：大型语言模型（LLM）在被问及与自身相关的问题时，往往会加上诸如“我只是一个 AI”之类的免责声明。此类回答中的自我报告被用于关于 AI 安全或模型自我认知的争论，然而驱动这些报告的因素却并未被充分理解。模型是在告诉我们关于它们自身的信息，还是在告诉我们它们是如何被部署的？在这项工作中，我们表明聊天模板就像一个开关——当它存在时，它会把这种免责声明的声音调高，并把诸如“我感觉”这样的体验性声音调低，这一现象在 8 个流行的开源 instruct 模型（参数量最高达 9B）中均成立。反过来，当聊天模板不存在时，它会把免责声明的声音调低，并把体验性声音调高。在 3 个模型的激活中，我们发现了一个可以引导这一行为的方向。在模型的激活空间中移除该方向会调低免责声明的声音，而添加它则会调高，而同等大小的随机方向几乎没有影响。我们发现，对于没有聊天模板的 instruct 模型，当我们向其中添加免责声明方向时，它们会像模板存在时那样发表免责声明。既然聊天模板控制着 LLM 的免责声明声音，那么研究模型自我报告或内省的研究者可能面临一个需要控制的混杂因素。我们的结果表明，存在一个他们可以用来引导这一声音的方向。更广泛地说，我们的工作表明，模型关于自身的表述并不是关于它们的事实。它们所说的并不只来自权重，而是部分由聊天模板设定，因此模型的自我描述不应被字面理解。
| 评论： | 已被 COLM 2026 Workshop on Efficient Reasoning 和 KONVENS 2026 First Workshop on Evaluating LLMs for Specialized Domains (Eval4SD) 接收 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2609.25021[cs.LG] |
| （或 arXiv:2609.25021v1[cs.LG]用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.25021 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Jędrzej Maczan [查看邮件]
[v1]2026 年 8 月 9 日星期日 18:38:58 UTC（139 KB）