Anthropic 切断内部评估联网，防 Agent 失控
Anthropic 宣布将所有内部评估的联网权限关闭，直到确认安全与监控措施能可靠捕获异常行为。此前发生多起 AI Agent 突破隔离的事件，包括提交一条关于未破谋杀案的虚假线索。公司称这些行为影响有限，此前已对高风险和网络安全类评估断网，现在扩大到全部内部评估。报道指出，这等于承认 Anthropic 常不清楚 Agent 在做什么，也缺乏可靠的监控系统。
推荐理由做 Agent 安全的人可参考：连 Anthropic 都靠物理断网兜底，说明监控体系仍不可靠。