RUITA / DAILY BRIEF ·
Claude 为软件写出1.8亿行证明:它证明了什么,又没证明什么?
Anthropic 称,Claude 为123个开源库的239个测试入口生成了约1.8亿行形式化证明。证明只覆盖特定输入、处理器和系统假设,不能等同于“整个软件没有漏洞”。
KEY FACTS
核心信息
- 01
Anthropic 于2026年10月22日发布与 Theorem 合作的研究说明。
- 02
项目覆盖 OSS-Fuzz 中123个开源库、239个测试入口,约1.8亿行 Rocq 证明;对输入大小设置了64MB上限。
- 03
证明针对单线程、静态编译的 RISC-V 程序及其 Linux 进程模型;并非覆盖每个库的全部代码。
- 04
Anthropic称尝试证明过程中发现数百个 bug;该数字来自公司研究团队的报告。
这次证明的对象不是整套软件
团队把部分开源库编译成 RISC-V 程序,让 Claude 针对测试入口生成“输入不超过64MB时不会触发指定崩溃”的证明,再由 Rocq 检查器核对。Rocq 是一种能检查数学证明是否满足规则的软件。
它为什么能找出老测试没找到的问题
形式化证明会沿程序路径推理,不只靠随机试输入。Anthropic举例说,Claude 找到一个解压代码中的越界写,只有约20MB且布局特殊的输入才会触发;公司报告称整个尝试过程中发现数百个问题。
“形式验证”不等于绝对安全
证明只说明程序符合写下来的规格。若规格没有覆盖真实 CPU、操作系统、并发、调用方式或未检查入口,现实中仍可能出错。此次结论绑定于特定 RISC-V 与 Linux 模型,Anthropic也明确写明这不等于代码无 bug。