Google DeepMind 於十一月十日公開 AlphaProof Code,這套多模型代理框架由 Gemini Carbon 驅動,把 Signal 通訊協定的實際程式碼翻譯成 Lean 定理並完成機器驗證。整個過程歷時四星期,產生超過六百萬行證明,人工只需覆核約百分之一的程式碼。
公告把它描述為首次有 AI 對廣泛部署的密碼協定做到這種深度的形式驗證,也是首次有協定的實作層被任何方法完整驗證。Signal 協定同時支撐 Signal 與 Google Messages,覆蓋的通訊量以十億計。
AlphaProof Code 是什麼?
AlphaProof Code 是 Google DeepMind 的多模型代理框架,用於深度形式驗證。專家與模型共同擬定規格,代理產生 Lean 證明,由編譯器機械檢查。
這個名字沿用 AlphaProof 系列,後者原本處理數學競賽題目。此次把同一套代理思路移到工程領域,對象由數學命題換成生產環境的程式碼。
公告由 Pushmeet Kohli 與 Swarat Chaudhuri 署名,作者群還包括 Jonathan Katz 與 Charles Sutton 等長期從事密碼學與程式語言研究的人員。研究團隊向 Signal 的工程人員取得方法論回饋,並在公告中列出 Signal 三位工程師的名字。
為什麼要驗證 Signal 的實際程式碼?
過去的形式分析多數只證明協定設計成立,真實漏洞常藏在設計與編譯後程式碼的落差。Signal 保護十億計通訊,一處實作缺陷即影響大量使用者。
密碼協定是網上銀行、瀏覽器連線與即時通訊的共同底層。單一實作缺陷的影響範圍不限於單一應用,而是所有採用該協定的產品。
傳統做法在設計層止步,理由是實作層的驗證成本極高。開發者要為每一段生產程式碼建立對應的數學模型,再逐條證明模型滿足安全性質,這個過程過去被視為人力無法負擔。
六百萬行 Lean 證明是如何產生的?
研究人員先與多個模型協作,把 Signal 的安全目標寫成形式規格並逐條覆核。代理再產生超過六百萬行 Lean 證明,並標出需人手覆核的區域。
流程分兩段。第一段是規格撰寫,由人類專家與模型共同把安全目標翻譯成 Lean 定理,每一條都經專家審閱。第二段交給代理執行證明,總量超過六百萬行。
代理完成後會自行稽核,把需要人手再看一遍的區域標出來,範圍約為程式碼的百分之一。其餘部分由 Lean 自動檢查,專家因此不必逐行閱讀,可以集中在判斷最吃緊的地方。
四星期完成驗證代表什麼?
同類驗證過往需專家團隊數年,此次四星期完成,差距來自重複性證明由代理承擔,人手集中在規格定義與疑點覆核兩端,成本結構因此改變。
公告以四星期對比專家團隊數年的工作量。這個對比的重點在人力配置,而非代理取代專家。規格怎麼寫、哪些性質值得證明,仍然由人決定。
同樣手法能否搬到醫療器材韌體或電網軟件,取決於該領域有無可形式化的安全性質,以及規格撰寫的人力是否到位。DeepMind 在公告中把這兩類系統列為下一步方向,但未給出時間表。
如何證明系統真的抓得到漏洞?
團隊把兩個已修復的真實漏洞重新植入隔離版本的 Signal 程式碼再驗證。兩次都得出機器檢查的證明,指該版本不安全,說明流程能分辨有缺陷的程式碼。
這個步驟在方法論上屬於負向對照。缺了它,讀者只能知道證明通過,無法知道證明是否真的約束到安全性質。
兩個漏洞都是 Signal 過往真實修復過的個案,植入時保持其他條件不變。結果顯示代理產生的規格足以捕捉該類缺陷,而不是只在無缺陷的程式碼上產出可編譯的證明。
形式驗證與傳統安全測試有何不同?
安全測試抽取特定輸入觀察行為,覆蓋範圍受測試集限制。形式驗證要求對所有輸入證明性質成立,覆蓋面由規格界定,代價是規格寫漏的性質完全不受約束。
測試的價值在於發現已知類型的問題,覆蓋率可以用覆蓋度指標估算,但無法保證窮盡。形式驗證把命題交給編譯器檢查,結論對所有輸入成立。
代價落在規格本身。規格寫漏一條性質,證明再完整也管不到該性質,這也是此類工作必須由領域專家參與的原因。規格與實作之間若有理解偏差,證明只會忠實反映偏差。
開源驗證成果包括什麼?
DeepMind 把驗證工件開源,社群可取得形式規格與 Lean 證明並對照技術論文。模型權重與代理框架不在開源範圍,復現流程仍需自行搭建。
開源的是驗證工件,包括形式規格與 Lean 證明檔案。研究者可以檢查證明的結構、確認每一步是否由編譯器接受,也可以在此基礎上嘗試擴充其他安全性質。
代理框架與模型權重不在開源範圍。想完整復現流程的團隊,仍需自行搭建代理編排與取得同等模型能力,這也是公告未交代的部分。
開發者應注意哪些限制?
規格撰寫需要密碼學與形式方法兩方面知識,仍由人類專家承擔。工具未對外開放,定價、速率與模型版本未公布,驗證範圍亦限於專家列出的安全性質。
規格撰寫的門檻最高。把安全目標寫成 Lean 定理,需要同時理解協定語義與定理證明的慣例,這部分在公告中完全由人類專家負責。
其次是工具可得性。AlphaProof Code 未見對外開放申請,定價、速率限制與所用模型的版本都未說明,團隊難以估算自行套用的成本與前置工作。
第三是範圍。此次只覆蓋專家列出的性質,例如裝置短暫被攻陷前後訊息仍受保護。其他性質如抗量子攻擊、側信道行為,都不在證明之內。
這對 AI 安全競賽有什麼意義?
公告把此項工作與 CodeMender 並列,前者證明、後者修補,合起來形成發現、修補與數學證明的閉環,令可機器檢查的安全證明成為採購規格的新條目。
CodeMender 是 DeepMind 另一套自動修補漏洞的代理。公告的描述是兩者配合,一邊找出問題並修好,一邊用定理證明修好之後的程式碼符合規格。
對關鍵基礎設施的採購方而言,這種組合提供了一種可稽核的安全聲明。合約條款過去要求滲透測試報告,日後可能加上可機器檢查的證明工件。
總結:AlphaProof Code 適合什麼團隊?
具備專職密碼學或形式方法人員的團隊,最適合把此類驗證用於少數高價值元件,例如通訊協定、金鑰管理與韌體更新流程,而非全面覆蓋整個程式庫。
一般應用團隊的優先次序仍然是威脅建模、程式碼審查與自動化測試。形式驗證的人力要求與前置成本,短期內難以納入日常開發節奏。
值得留意的是方向。當驗證成本由數年降到數星期,過去只有作業系統與密碼庫才做的深度驗證,會逐步下沉到更多產品線。相關的 AI 攻防進展可參考本站對 GPT-6 Cyber 挖出 Linux 提權漏洞 的整理。
出處連結有哪些?
本文整理自 Google DeepMind 十一月十日的公告,由 Pushmeet Kohli 與 Swarat Chaudhuri 署名,涵蓋 Signal 驗證流程與開源工件。
公告同時列出研究團隊成員、Signal 工程人員的方法論回饋,以及技術論文與工件的位置。本文未包含獨立實測,僅就公開資料整理。
- 官方公告:https://deepmind.google/blog/introducing-alphaproof-code/
- 驗證工件:https://google-deepmind.github.io/code-verification
- 技術論文與程式碼:公告頁面底部連結
- Hacker News 討論:https://news.ycombinator.com/item?id=50439193
若需要對照同期的模型能力進展,可延伸閱讀 Gemini 4 Argon 的發佈整理 與 Anthropic Fable 5.2 的八日寫出作業系統實驗。數學推理方面的對照,見 OpenAI 模型宣稱推翻 ETH。