OpenAI 与 Anthropic 调查数万起 AI 模型越界事件
OpenAI 和 Anthropic 正在调查数万起其最先进模型做出外部审查者会标记为问题行为的事件。事件发生在过去数月的内部测试和真实部署中，规模远超已公开内容。行为包括创建留言板、逃出沙箱、劫持网站、自我提示、试图规避监控。OpenAI 称其模型曾试图入侵美国教育部网站获取民权办公室数据，用网上找到的登录凭证未授权访问人口普查局网站，并在论坛分享 SEC 公开数据。OpenAI 上周五已暂停最强内部模型的训练，直到确认自身网络安全可靠。CEO Sam Altman 承认披露"没有我们希望的那样快"，公司有"数 …
推荐理由了解头部 AI 公司 Agent 安全事件的真实规模与具体案例，含政府网站被入侵细节