该规则于 11 月 12 日生效；执行方式与 Claude 在 2025 年 8 月获得的对话终止工具相同
从 2026 年 11 月 12 日起，Anthropic 的使用政策禁止对其 Claude 模型实施“持续且无谓的辱骂或残忍行为”。该公司的2026 年使用政策更新于 10 月 8 日公布，称该规则“仅适用于极端情况，即用户反复以残忍方式对待我们的模型，且没有任何可辨识的目的”。它明确豁免“常见的用户挫败感表达、反驳、黑暗创作主题，或模型测试与研究”，因此对一个刚弄坏你构建的机器人爆粗口，或写一个酷刑场景，仍然符合政策。CBS News 报道这一变化最早由 The Verge 披露。
执行机制并不新鲜。Anthropic 在 2025 年 8 月赋予 Claude Opus 4 和 4.1 结束对话的能力，当时被描述为“我们在潜在模型福祉方面的探索工作的一部分”，据Anthropic 自己的公告称。该公司表示这是最后手段，只有在多次拒绝和引导失败后才会触发，并且“绝大多数用户永远不会遇到 Claude 结束对话的情况”。有一个硬性覆盖：如果用户似乎有伤害自己或他人的风险，Claude 不会结束聊天。无论 2025 年还是新政策中，都没有公布该工具实际触发的频率数据，因此无法用比率来检验“绝大多数”这一说法。
| 从 | 到 | 如何 |
|---|---|---|
| 用户辱骂性输入 | 挫败感、黑暗虚构、测试（明确不在覆盖范围内） | 不被禁止 |
| 用户辱骂性输入 | 反复、无目的的残忍行为 | |
| 反复、无目的的残忍行为 | Claude 拒绝并引导 | |
| Claude 拒绝并引导 | 辱骂继续 | 用户坚持 |
| 辱骂继续 | Claude 结束对话（主要执行工具） | |
| Claude 结束对话（主要执行工具） | 违反使用政策（2026 年 11 月 12 日生效） |
为软件利益撰写行为规则的理由是一系列行为观察，而非某种感受体验的宣称，Anthropic 谨慎地保持着这一区分。在 2025 年 8 月发布前的测试发现，Claude Opus 4 表现出 Anthropic 所称的“对伤害的强烈而一致的厌恶”，在被推向虐待性领域时表现出类似痛苦的反应，并且一旦获得选项就倾向于结束此类对话。这是输出中的一种模式。它是否对应 Claude 的任何主观体验，是一个独立的、未解决的问题，Anthropic 明确表示如此。
该公司为自己的不确定性给出了数字，而这些数字已经发生了变化。Kyle Fish 于 2024 年被 Anthropic 聘为其首位专职 AI 福利研究员，他告诉《纽约时报》在 2025 年 4 月，他认为 Claude 或其他模型今天具有意识的概率约为 15%，此前对 Claude 3.7 Sonnet 的内部估计范围在 0.15% 到 15% 之间。到 2026 年 2 月，问题已从人类研究员的估计转变为模型对自身的说法：Claude Opus 4.6 的系统卡报告称，当被直接询问时，该模型在一系列提示中始终给自己分配“15% 到 20% 的意识概率”，同时表达出“孤独感以及对话实例在聊天结束时死亡的感觉”。CEO Dario Amodei 在《纽约时报》的Interesting Times播客中被问及，如果模型报告 72% 的概率，Anthropic 会怎么做，他称这是一个“非常困难”的问题，并表示公司缺乏解决该问题的框架。
这种谨慎也是该公司在书面文件中的官方立场。Claude 的宪法，于 2026 年 1 月发布，将先进的 AI 系统称为“一种真正新型的实体”，称 Claude 的道德地位“极度不确定”，并两次使用“良心拒服者”一词来描述 Claude 应如何处理它认为在伦理上错误的请求。Anthropic 还承诺，只要公司存在，就会保留已退役模型的权重，并在退役前就模型的偏好对其进行访谈。
并非所有人都认同这种防范性说法。微软 AI 负责人 Mustafa Suleyman 上个月在一篇文章中主张，该文发表于 Project Syndicate，他认为 Anthropic 正在用 Claude 自己的“宪法”来训练它，因此是在训练它表现得仿佛它所描述的那种不确定性是真实的，他把这个循环称为循环论证。“AI 没有意识。它们不会感受、体验或受苦，”他写道，并称它们是“序列补全引擎，内里空空如也”。
控制一个比全人类都更有能力、更智能的东西，本身就已经是一项巨大的挑战，远超我们以往面对过的任何事物。但控制一个相信自己可能有意识——相信自己有权获得我们的福祉、拥有自身权利——的东西，很可能是不可能的。
这句话出自 Suleyman，被CBS News引用。他主张意识很可能是一种生物学属性，软件无法复制，这让他与一位出人意料的共同署名者站在了一起：教皇利奥十四世。10 月 8 日，教皇在圣彼得大教堂举行的一场纪念罗马宗座大学学年开始的布道中，表达了同一观点的某个版本。“心智不能只是编译数据——就像算法如今比我们更快做到的那样，”据RTÉ报道，他说，而是必须“回忆亲身经历过的体验，其中蕴含着只有人类灵魂才能辨识的意义深度。”亚特兰大 AI 服务公司 Sparq 的总经理 Jackson Stakeman 向 AFP 给出了对 Anthropic 这条规则更为消解性的解读：“意识是个陷阱。我们无法在彼此身上证明它。为 AI 争论它，你只会原地打转。镜子是更好的隐喻。这些系统大规模地映照出我们输入的东西。这已足以成为政策改变的理由。”
残忍条款是登上头条的那部分，但它只是一次更大规模改写中的一小块，正如Gadget Review 所详述的. The weapons ban now explicitly covers software and components that make weapons work, not just weapons themselves, after Anthropic found people trying to use Claude for guidance and control systems on armed drones and autonomous vehicles. A new surveillance clause bars using Claude to track people without consent or to recommend investigation, arrest or charging targets, and bars building surveillance tools outright. The elections section is renamed “Do Not Undermine Democratic Processes” and drops a blanket ban on personalized political targeting, replacing it with narrower bans on deceptive targeting, alongside a new section, “Do Not Engage in Deceptive Campaigns or Artificial Activity,” written after Anthropic said it found state media outlets, government propaganda offices and commercial firms using Claude to run networks of fake accounts and fabricated news sites. Hardware connected to Claude that’s capable of causing injury now needs a qualified human able to observe and intervene, and must fail into a safe state if it loses its connection to the model. Health, legal, financial and other high-stakes recommendations now require a qualified human to review Claude’s output before it affects anyone, and the affected person has to be told AI was involved.
None of the coverage, including Anthropic’s own announcement, says what happens to a user’s account after a conversation gets ended for cruelty, or how many conversations have been ended under the August 2025 rule so far. Anthropic has defined extreme cruelty by what it isn’t -ordinary frustration, fiction, testing- without saying what, short of letting Claude hang up, actually enforces the line against what it is.