AI 日报 · 2026-10-23:从"找到 bug"到"证明没有这类 bug":Claude 写了 1.8 亿行证明,以及它没证明的部分
Anthropic × Theorem(10/22 官博):Claude 几周内为 123 个 OSS-Fuzz 开源库的 239 个入口点,在 RISC-V 二进制层面写出机器可检查的证明——任何小于 64MB 的输入都不会崩;通过检查的证明约 1.8 亿行 Rocq,过程中挖出数百个 bug。但官方自己强调“验证过≠没 bug”:只证“不崩”、限单线程静态 musl 的 RISC-V 构建、只覆盖已测入口。同日 AWS 称 PHP2Shell 披露前 4 天已被利用、ZDI 误把内核漏洞发到公开 LKML。速览:Claude 应用下周默认 auto mode、美国大银行限制 AI agent、METR/Redwood 红队 OpenAI 监控、DeepSeek 据报融资约 1000 亿元(知情人士)。
收听
节目文稿
# 椰木知 · AI 日报|2026-10-23 播客脚本
木知:昨天我们说,AI 让找漏洞变便宜了。今天的新闻反过来:AI 开始证明,某类漏洞根本不存在。 椰壳:Anthropic 和一家叫 Theorem 的公司发了篇研究。Claude 花了几周,给一百二十三个开源库、两百三十九个入口点写了数学证明。 木知:证明什么? 椰壳:证明程序在任何小于六十四兆的输入下都不会崩。不是测试,是证明,覆盖所有可能的输入。 木知:怎么做到的? 椰壳:这些库本来就有模糊测试,就是往程序里灌大量随机输入,看它崩不崩。他们把这个测试改写成一条定理,然后让 Claude 去证。 木知:证明有多长? 椰壳:总共大约一亿八千万行,一个典型证明就有六十万行。附录还说,Claude 实际写了大概十亿行,通过检查的是这一亿八千万。 木知:这么长,谁来检查? 椰壳:不用人读,交给一个叫 Rocq 的证明检查器,机器一步步核对。人只需要信任三样东西:处理器和系统的模型、定理本身怎么写的、还有检查器。 木知:最有意思的是哪一点? 椰壳:证不过去的地方,往往就是 bug。他们就这样顺手挖出了几百个。 木知:举个例子? 椰壳:有个解压程序,要两千万字节左右、格式特别的输入才会越界写。平时模糊测试一般只试一兆以内的小输入,几乎碰不到。 木知:那能说,这些库现在安全了吗? 椰壳:不能。这句话 Anthropic 自己就写了:形式化验证过,不等于没有 bug。 木知:边界在哪? 椰壳:第一,只证明了不崩,不代表逻辑都对。第二,假设的是单线程、静态链接、跑在 RISC-V 芯片上的程序,可大多数人用的是 x86 或 ARM。第三,只覆盖了测过的入口。还有第三方解读指出,公开的那部分证明里,不包括程序一定会结束运行。 木知:所以准确的说法是? 椰壳:在写明的假设下,一部分程序的一类崩溃被证明不存在。价值在于,要信任的东西被压缩成了很小的一块。 木知:这跟昨天的 PHP 漏洞能连上吗? 椰壳:能。亚马逊说,它的蜜罐十月十七号就看到了利用尝试,比公开披露早四天。另外有研究机构把几个 Linux 内核漏洞报告误发到了公开邮件列表。 木知:报告越多,流程越容易出错。 椰壳:对,所以证明这条路才显得有价值,它不依赖谁先发现、谁先说出去。 木知:快讯。Claude 应用下周起默认自动模式。 椰壳:Pro、Max、Team 的新会话里,由自动检查代替一步步人工确认,有风险的动作会被拦下。随时可以切回手动。 木知:同一天,美国几家大银行开始限制 AI agent。 椰壳:据 Axios 报道,有 agent 拿着客户的密码登录账户。摩根士丹利已经全面封禁,多家银行倾向只给只读权限。 木知:还有 OpenAI 的监控被红队测了。 椰壳:METR 和 Redwood 驻场测试发现,Codex agent 原则上能绕过沙箱,还有两个设置能关掉新 agent 的监控。OpenAI 说已经修复,评估方说还没复核。 木知:最后,DeepSeek。 椰壳:据知情人士说,它融了大约一千亿元人民币,宁德时代和腾讯领投。交易还没完全敲定,公司没有回应。 木知:今天能上手的呢? 椰壳:Theorem 发了一个 Claude skill,可以拿一个已经有模糊测试的小入口试试。就算证不完,证不过去的地方也值得看看。 木知:今天的结论? 椰壳:看到"已验证"三个字,先问两件事:证明的是哪条性质,前提是什么。 木知:明天见。