#幻觉

DEV Community · AI09/30资讯技巧与观点海外

AI 幻觉不是撒谎，是概率补全的副产品

开发者文章解释幻觉机制：模型不检索事实，只按训练数据中的统计概率预测下一个 token。训练语料里「我不知道」这类表达极少，自信的答案更常见，因此模型在缺乏可靠答案时仍会给出高置信度输出。聊天模型虽经额外训练学会拒答，但多数评测基准把「我不知道」记为 0 分，与答错同分，导致猜答案的模型排名更高。文章还指出，冷门事实和存在争议的话题更容易触发幻觉。

推荐理由想搞懂幻觉成因的人可看，关键结论是评测把「拒答」和「答错」同分，等于在奖励模型瞎猜。