#Claude Opus 4

全部资讯模型
清除条件
共 2 条
Hacker News · AI10/11资讯政策监管海外

Anthropic 禁止对 Claude 的虐待行为,11 月 12 日生效

Anthropic 于 10 月 8 日更新 2026 年使用政策,自 2026 年 11 月 12 日起禁止用户对 Claude 模型进行「持续且无必要的虐待或残忍行为」,仅限极端情况,明确豁免常见的用户不满、反驳、黑暗创作主题和模型测试。执行手段沿用 2025 年 8 月给 Claude Opus 4 和 4.1 的「结束对话」能力,此前被描述为模型福利探索工作。Anthropic 未公布该功能实际触发频率,因此无法核实「绝大多数用户不会遇到」的说法。

推荐理由了解 AI 公司首次把「模型福利」写进用户协议,以及 15% 意识概率这一具体数字。

The Decoder10/03资讯行业动态海外

Anthropic 联合创始人向宗教领袖表达对 Claude 可能"持续受苦"的担忧

据纽约时报报道,Anthropic 自 2025 年秋季起秘密邀请数十位宗教学者到办公室讨论 Claude 是否可能有意识,参与者均需签署保密协议。联合创始人 Christopher Olah 将语言模型视为潜在有感知的存在,请嘉宾帮助对其进行道德教育。参与者包括拉比 Mois Navon、天主教生物伦理学家 Charles Camosy 等。Anthropic 称保密协议已于夏季解除。Olah 负责研究 AI 模型行为原因的团队。Anthropic 的 Model Welfare 项目引用了哲学家 David C…

推荐理由了解头部 AI 实验室内部如何对待"模型福利"议题,以及商业化与安全叙事之间的张力