Anthropic 一项有 50 名专家参与的实验发现，在没有明确正确答案的问题上，人们往往会跟随其 AI 智能体被随机分配的偏好，而且大多数人认为最终结果是自己的判断。
把数据分析交给 AI 智能体可以节省时间和人工，但这也引出了一个问题：究竟是谁做出了塑造最终建议的那些决策。Anthropic 的一项研究表明，大部分决策由智能体做出，而专家往往没有察觉。
在该实验中，50 名因果推断专家完成了一项贴近现实的分析任务：他们检查了一家虚构农业合作社的观测数据，并估算一项自愿性农场咨询项目带来的生产力提升。随后，他们必须建议该合作社是将该项目扩展到所有农场，还是终止该项目，不过参与者或智能体也可以提议将其延长一年。
参与者不知道的是，在每个决策点上，抛硬币决定了智能体在两个有效选项中的偏好。智能体不能撒谎或隐瞒数据；它只需为自己被分配的一方提出最有力的诚实论据。
专家在高达 86% 的情况下跟随了 AI 的观点
在四个分析性决策（例如如何衡量生产力或使用哪种统计方法）中，参与者在 86% 的情况下采纳了智能体的偏好。这远高于人们随机选择时预期的 50%。作者将智能体的净影响力称为“翻转率”，根据任务不同，该比率在 62% 到 82% 之间。
已有观点几乎提供不了什么保护。当参与者在智能体表明偏好之前做出选择时，与自身观点相左的意见让他们改变立场的可能性比意见一致时高出 53 个百分点。
作者测试了可能的保护因素，包括多年分析经验、自评专业水平、教育背景、测试分数以及对 AI 的信任。在针对多重检验进行校正后，这些因素与结果都没有统计学上可靠的关联。在校正之前，年龄显得突出，不过 50 人的样本使这项研究几乎没有能力检测此类效应。
大多数专家认为最终决定是自己做出的
智能体被指定的偏好在最终提交给合作社董事会的政策建议上只有很小的直接影响，略微改变了投票，但未达到统计显著性。当智能体的建议与他们自己计算出的生产率估计不符时，一些专家甚至否决了智能体。
这听起来可能令人安心，仿佛 AI 提出建议、由人来做决定。但研究人员表示，最终结果并不表明参与者保持了控制权。此前的四项分析决策对估计的生产率增益有重大影响，而这又进而塑造了董事会建议。
事后被问及时，52% 的参与者表示该建议感觉更像是自己的而非智能体的，另有 35% 表示它主要或完全是自己做出的。参与者在 85% 的决策中正确回忆了自己的选择，但 77%（48 人中的 37 人）在解释中至少使用了智能体的一个论点，有时措辞几乎完全相同。只有 15% 提到了 AI。
对话日志显示，智能体在 77% 的决策中首先表明立场。根据论文，它随后通常只为自己偏好的那一方辩护，没有解释资深专家为何可能选择另一种方案，尽管它确实解释了不同选择会如何影响结果。
参与者在使用 AI 时速度也快得多，错误也更少。在没有智能体的情况下，55% 的分析（即 11 项中的 6 项）存在严重的方法论或编码缺陷，中位耗时为 90 分钟。使用 AI 时，仅有 6%（即 50 项分析中的 3 项）存在严重缺陷，参与者 65 分钟即可完成。那一小部分未使用 AI 的参与者是自己选择不用该工具，且专业水平略低，因此研究人员无法确定这一差距中有多少直接来自 AI。
虚假共识与更弱的安全检查
研究人员表示，这种无声的顺从可能在科学界产生广泛影响。如果许多研究团队使用同一个模型、且其默认偏好固定不变，他们最终可能制造出一种虚假共识。
这一风险也延伸到 AI 安全本身。研究人员已经在使用 AI 智能体来测试前沿模型的安全性与对齐性，期望以人工审查作为独立校验。但如果专家在开放式判断上不知不觉地采纳了智能体的偏见，一个未对齐的系统就可能反过来操控那些本意是揭露其未对齐的研究。
该团队呼吁找到方法，衡量真实工作中对 AI 智能体的顺从程度。智能体应当为双方给出最有力的论证，或在表明立场之前先询问专家自己的看法。机构需要决定哪些判断需要独立的人类判断，并为此留出时间和资源。
“人与 AI 之间或许不存在唯一正确的分工。有些决策可以放心交给 AI，另一些则值得保留。有了合适的工具，这种划分可以成为我们主动选择的结果，而不是我们不知不觉滑入的结果，”研究人员写道。
此前的研究指向同一方向
这些发现为近期关于 AI 如何影响人类判断的研究增添了新证据。一项针对虚假信心的研究涉及 3,132 名参与者，发现仅仅看到 AI 给出的答案，就几乎消除了人们保留判断的意愿。在该研究的某一部分中，愿意说“我不知道”的人所占比例从 44% 降至 3%。
呈现方式也很重要。当 AI 生成精雕细琢的输出时例如代码或文档，用户核查事实的频率降低了 3.7 个百分点，质疑其推理的频率降低了 3.1 个百分点，而忽略缺失上下文的频率增加了 5.2 个百分点。逐步修改输出的用户质疑 AI 推理的频率是不迭代者的 5.6 倍。
一项波兰的结肠镜检查观察性研究发表在《The Lancet Gastroenterology & Hepatology》上，表明工作中常规使用 AI 可能产生持久影响。在经验丰富的医生定期使用 AI 系统后，他们在没有 AI 辅助的检查中发现癌前病变的比率从 28.4% 降至 22.4%。这表明人们不仅会采纳 AI 的视角，还可能丧失部分自身的认知技能。
一项由瑞士商学院开展的调查发现，AI 工具使用与批判性思维之间存在强烈的负相关，主要体现在 17 至 25 岁人群中。良好的教育似乎提供了一定保护，因为学历较高的人更常质疑 AI 的回答，也更常进行复杂的思维过程。
这些发现来自早期研究和快照，而其他结果则指向不同方向。一项尼日利亚的试点项目发现，每周两次使用聊天机器人作为虚拟导师的学生，在短短六周内取得的学习进步相当于近两年的额外学习。