Anthropic 用 Claude 自动生成形式化证明，验证代码安全性
Anthropic 的 Frontier Red Team 与 Theorem 合作，让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序进行形式化验证，几周内生成了约 1.8 亿行数学证明代码，由 Rocq 独立校验，几乎不需要人工复核。过程中 Claude 发现并自行修复了数百个 bug，其中包括一个隐藏十余年的逻辑错误；在验证某 PDF 阅读器时，一周内发现的安全漏洞数量相当于该软件全年通常报告的数量。局限也很明确：证明只在特定处理器架构、单线程、输入小于 64 MB 的条…
推荐理由形式化验证原本需要 20 人年才能完成 seL4 内核，现在 Claude 几周就能生成 1.8 亿行证明