Anthropic：Claude 自主训练模型，修复 10 类对齐失效
Anthropic 发布新报告：让 Claude 自主训练模型，逐个改进 10 类对齐失效（如欺骗、谄媚、越狱、隐私泄露）上的公开基准表现。Claude 按“检索文献—提出方法与数据—训练—测试”的循环推进，用“安全差距缩小百分比”衡量成效。结果显示，10 类失效均找到不损害通用能力的修复方法；这些方法在 Claude 研究循环中未见的对齐基准和 Petri 对抗测试上同样有效，并在比优化目标大 4.7 倍的模型上仍有效。Claude 的最佳方法得分超过 28 位人类安全研究员（限时 8 小时），在欺骗一项上比最佳…
推荐理由对齐研究开始被自动化：Claude 的方法在 10 类失效上全部奏效，欺骗项超人类最佳方案 20%