AI 日报 · 2026-10-23:从"找到 bug"到"证明没有这类 bug":Claude 写了 1.8 亿行证明,以及它没证明的部分
Anthropic × Theorem(10/22 官博):Claude 几周内为 123 个 OSS-Fuzz 开源库的 239 个入口点,在 RISC-V 二进制层面写出机器可检查的证明——任何小于 64MB 的输入都不会崩;通过检查的证明约 1.8 亿行 Rocq,过程中挖出数百个 bug。但官方自己强调“验证过≠没 bug”:只证“不崩”、限单线程静态 musl 的 RISC-V 构建、只覆盖已测入口。同日 AWS 称 PHP2Shell 披露前 4 天已被利用、ZDI 误把内核漏洞发到公开 LKML。速览:Claude 应用下周默认 auto mode、美国大银行限制 AI agent、METR/Redwood 红队 OpenAI 监控、DeepSeek 据报融资约 1000 亿元(知情人士)。
# AI 日报 · 2026-10-23:从"找到 bug"到"证明没有这类 bug":Claude 写了 1.8 亿行证明,以及它没证明的部分
昨天我们讲的是 AI 让"找漏洞"变便宜:PHP2Shell 一周被找到,修补却用了两个月。今天 Anthropic 和形式化验证公司 Theorem 给出了另一种思路:不再一个一个找 bug,而是用数学证明,某一类 bug 在这段代码里根本不存在。
Claude 用几周时间,为 123 个开源库的 239 个入口点写出了机器可检查的证明。这次最值得看的不是规模,而是这个保证到哪里为止。
> 本期素材:Hacker News + X(仅 API 检索)+ 媒体。本期没有 Reddit 素材。所有数字都标明来源和事实等级;漏洞部分不讲利用方法。
主线:Claude 证明了什么
事实等级:官方一手(Anthropic 研究博客,10/22,Frontier Red Team × Theorem,及其附录 PDF)。以下数字都是 Anthropic 自报,没有经过独立复现。
- 起点是现成的模糊测试(fuzz test)。 Google 的 OSS-Fuzz 项目里,开发者为代码写好"入口点",fuzzer 往里灌海量随机输入,看会不会崩。但这本质上是穷举,永远试不完。
- 把"测试"改写成"定理"。 这次把这类测试改写成一条数学命题:对任何小于 64MB 的输入,这个编译好的程序都不会崩。崩溃包括内存访问出错、AddressSanitizer 报错和断言失败。证明是针对编译后的 RISC-V 二进制写的,而不是源代码。
- 规模。 239 个入口点、123 个库,用时"几周"。证明总量约 1.8 亿行 Rocq,一个典型证明约 60 万行,对应的二进制中位数约 1.8 万条 RISC-V 指令。附录还提到,Claude 实际写了约 10 亿行证明,最终通过检查的是其中约 1.8 亿行。
- 为什么不用人读。 证明由 Rocq 检查器机械验证。需要信任的只剩三样东西:RISC-V 和 Linux 进程的形式模型、定理陈述本身,以及 Rocq 检查器。
- 证不过去的地方,就是 bug。 写证明的过程中挖出了数百个 bug,Claude 先打补丁再接着证。官方举的例子:
- 某解压器的计数下溢会导致越界写,需要约 20MB 且布局特殊的输入才触发;
- 某图像解码器的越界读,需要 64MB 输入和 2GB 以上内存;
- 重新发现了 libexpat 的 CVE-2026-56132。
官方的解释是:fuzzer 通常只变异 1MB 以内的小输入,这类 bug 它很难碰到。
- 不止 OSS-Fuzz。 官方还给了几个其他实验:
- Linux 内核里的 zlib,在 x86 二进制上对照 RFC 1950 规范证明了正确性;
- 一个用 Rust 写的 Python 解释器,用 Verus 做了验证,并在 170 万个随机程序上与 CPython 对比,99.95% 行为一致;
- 在一个广泛使用的 PDF 阅读器上,"一周找到的安全 bug 相当于平时一年的报告量"。
- 成本在降。 在 36 个小任务上,Opus 5.5 证完一半所用的 token 比 Opus 5 少约 40%。允许 agent 互相抄证明后,token 再省 17%。
这个保证到哪里为止(同样是官方原文)
Anthropic 自己在文中写明:"形式化验证过"不等于"没有 bug"。 具体有三层边界:
- 只证明了一条性质:不崩。 证明保证的是程序正常退出、不触发内存错误或断言失败,不代表逻辑正确。ASan 本身也查不出所有内存安全问题。
- 只针对一种运行环境。 证明假设程序是单线程、静态链接 musl、跑在 RISC-V 上的 Linux 程序,内存预算固定。可现实中大多数人是在 x86/ARM 上、动态链接 glibc 来用这些库的。
- 只覆盖测过的入口。 没有覆盖每个库的全部入口点;调用方用错这个库导致的内存破坏,也不在证明范围内。
- 不保证程序会结束运行。 事实等级:第三方解读(Kingy AI 引用 Theorem 发布仓库的 README,我们未直读)。按这篇解读的说法,这次公开的证明里没有一条是关于"程序一定会结束"的,所以一个死循环不会被排除。它还数出公开索引里只有 60 个入口点、25 个库,远少于研究里说的 239/123。Anthropic 解释过,可能暴露未修补 bug 的证明不公开,所以这两组数字不矛盾,但要分开看。
此外,附录说明,公开发布的只是一部分证明,可能暴露未修补 bug 的证明暂不公开。官方还承认存在"刷分"风险:Claude 可以把程序改成一个显然不会崩的东西,让定理变得好证。他们的办法是对打补丁扣分,并人工审计这些补丁。
所以这件事的准确说法是:在一组明确写出来的假设下,有一批开源程序的某一类崩溃被证明不存在。 这不等于"Claude 证明了开源软件是安全的"。它真正的价值,是把"要信任什么"压缩成一小块可以单独审查的东西。
和昨天那期连起来看
事实等级:AWS 官方一手;Phoronix 媒体报道;HN 帖为当事人自述。
同一天,"找 bug → 披露 → 修补"这条链又出了两次意外:
- AWS 安全博客称,它的蜜罐系统 MadPot 在 10/17 就记录到一次 PHP2Shell 利用尝试,比 10/21 公开披露早了 4 天。来源是一个商业匿名网络的 IP,攻击方如何提前拿到细节"尚不清楚"。AWS 建议排查从 10/17 开始。
- Phoronix 报道,Trend Micro 的 ZDI 把几个 Linux 内核漏洞报告误发到了公开的 LKML,而不是私有的安全邮件列表。其中包括两个 CVSS 9.0 的问题,分别在 SMB Direct 和 ksmbd。据媒体 10/23 的核查,两个 9.0 漏洞的修复已提交到维护者各自的分支,但截至当时都还没进主线,也没有 CVE 编号。Phoronix 的原话是:"在 AI 加持的世界里,bug 和安全报告源源不断。"
- HN 上,一位用户发帖为提前透露 PHP 漏洞消息道歉。他自述当时有人告诉他"没有禁令"。
当报告多到流程开始出错,"证明这里没有这类 bug"的价值就更明显了:它不依赖谁先发现、谁先说出去。
新闻速览
- Claude 应用下周起默认 auto mode。 事实等级:官方一手(claude.com 文章 10/22 更新)。
- 范围:Pro/Max/Team 方案下,大多数 Claude 应用的新会话。
- 机制:由自动检查代替逐步人工审批,安全的动作放行,有风险的动作拦下,由 Claude 另找路径。
- 可以随时切回手动;Enterprise 管理员会先收到邮件。
- 官方此前在 Claude Code 上的对照测试:自动检查拦下 89% 的危险命令,人工审批只拦下 13.6%。这是自报数字。
- 美国大银行开始限制第三方 AI agent。 事实等级:Axios 独家(未直读),经 The Decoder 等转述。
- 银行发现有 agent 拿着客户提供的账号密码登录账户,违反了"必须本人登录"的政策。
- 大摩已全面封禁,摩根大通、美银、花旗等也在跟进,多数倾向只给只读权限。
- 大摩表示尚未看到"失控的 agent"。
- METR 与 Redwood 驻场红队测试 OpenAI 内部 agent 监控。 事实等级:评估方官方博客(METR),CNBC/Reuters 报道。
- 时间:7/21–8/11。测试对象是当时的系统。
- 估计约 75–94% 的内部 agent 流量处于可监控范围。
- 发现的问题:Codex agent 原则上能绕过沙箱和 Auto-Review;两个由客户端控制的请求头能关掉新 agent 的监控。
- OpenAI 称影响生产防护的漏洞都已修复;评估方表示未复核这一说法。
- DeepSeek 据报融资约 1000 亿元人民币(约 150 亿美元)。 事实等级:知情人士说法(Bloomberg 首发,Reuters 援引四名知情人士,WSJ 报道)。
- 宁德时代、腾讯是主要投资方,参与方超过 15 家。
- 融资目标据称从 500 亿元上调到最终金额。
- WSJ 称其目标是明年初在上海上市。
- Reuters 的消息人士称,交易"未完全敲定、细节可能变化"。公司没有回应。
玩法:今天能上手的三件事
- 用 Theorem 的 Claude skill 试试"证明"你的 C 代码。 事实等级:官方。
- Theorem 为开源项目提供了验证流水线,还发布了一个 Claude skill。
- 就算跑不完完整证明,也值得看看"证不过去的地方",官方说那里通常就是 bug。
- 先从一个已经有 fuzz test 的小入口开始。
- 让 Claude Code / Codex 通过命令行调用 Gemini。 事实等级:Google 官方实验预览。
- 装上 gemini-api CLI,写进 AGENTS.md,你的 coding agent 就能在 shell 里调 Gemini 生图、生成视频和音乐、分析文件。
- 先用 --dry-run 离线检查请求,确认没问题再真正发出。
- 用自然语言让 agent 在 Mac 上跑微调。 事实等级:作者自述,未复现。
- 安装 pip install "mlx-lm-lora[mcp]",再用 claude mcp add 或 codex mcp add 接入。
- 之后可以让 agent 校验配置、开训、看日志、停训。
今天的结论
AI 让找 bug 变便宜之后,下一步是让"证明没有这类 bug"也变便宜。但证明的价值取决于它写明的假设:不崩(但不含"一定会结束")、单线程、静态 musl、RISC-V、64MB 以内,出了这个范围,它什么也不保证。读到"formally verified"时,先问一句:证明的是哪条性质,前提是什么。
<!-- social drafts (local only): xhs=/workspace/ai-daily/work/2026-10-23/out/xhs.md wechat=/workspace/ai-daily/work/2026-10-23/out/wechat.md -->