top of page
検索

Lean 4検証はADICに何をもたらしたのか――責任を後から書き換えられない構造へ

AIシステムを運用する上で、本当に厄介なのは「精度」の問題ではありません。

問題が起きたあとになって、「そのときどういう条件で判断したのか」が曖昧になり、「あとからいくらでも言い訳ができてしまう」ことこそが最大の脆弱です。

この記事では、GhostDriftが公開しているADIC（Algorithmic Drift Immunization Certificate）実装と、その中核ロジックに対するLean 4での機械検証が、この問題にどう終止符を打つのかを解説します。



なぜAIの判定はあとから言い訳できるのか

従来の「監査ログ」がいかに脆弱であるかは、次の3点に集約されます。

  1. 当時の条件が固定されていない ログはあっても、その判定を下した「プロンプトや閾値のバージョン」が完全に紐付いていない。

  2. あとから閾値を変えても見えにくい 事後的に「この閾値ならOKになる」とシステム側で操作しても、外部からは検知できない。

  3. 第三者が同じ判定を再現できない 同じ入力データを用意しても、ベンダー内部の環境でなければ同じ結果になる保証がない。

ADICの公開ページでは、これらを「閾値操作」「ベースライン操作」「データ捏造」といった事後改変リスクとして明確に定義しています。


ADICは「証明書・台帳・再検証」で条件を固定する

この事後改変を防ぐため、ADICは以下の3つの骨格を持っています。

  • 証明書（Certificate）：入力・設定・指紋をパッケージ化し、改ざん不能な状態で固定する。

  • 台帳（Ledger）：証明書と検証結果を追記型で記録し、時系列の一貫性を担保する。

  • 検証者（Verifier）：独立した検証スクリプトで、運用者以外でも同じ判定を再生できる。

ポイントは「AIの振る舞いを分かりやすく説明する」ことではありません。「同じ入力から、いかなる第三者も同じOK/NG判定を再現できる（same inputs... any third party can reproduce the same OK/NG verdict）」という、責任の固定です。

参考リポジトリ GhostDrift ADIC Audit Public Implementation 実装の公開ページ。固定された証明書、追記型台帳、独立検証者による事後的な閾値変更を許さない設計が示されています。

監査実装だけでは足りない理由

しかし、監査システムの実装を公開しただけでは、まだ大きな疑問が残ります。 「その検証システムが依拠している『根本ロジック』自体は、本当に信用してよいのか？」という問題です。

コードが公開されていても、そのシステムが安全性を常に満たすかどうか、人間が完璧にレビューし続けることは不可能です。ルールそのものが数学的に堅牢でなければ、監査システム自体が砂上の楼閣になります。


Lean 4検証がもたらしたもの

ここで意味を持つのが、定理証明支援系「Lean 4」による機械検証です。

GhostDriftは、ADICの中核安全性に関わる補題（Core Lemma）をLean 4を用いて形式検証しました。単に「監査システムを作った」だけでなく、「その判定ロジックが理論的に破綻していないこと」を、人間の曖昧な解釈を交えずに数学的に証明・固定したのです。

参考リポジトリ ADIC Lean 4 Proof Artifact Lean側の公開ページ。ADIC検証器アーキテクチャで用いる中核安全性の特性（core safety property）の機械的証明アーティファクトが公開されています。

防ぐのはエラーではなく「後からの語り替え」

これらの仕組みによって防げるのは、AIの単なるエラーや誤答ではありません。 本当に防ぐべきは、以下の事態です。

  • あとから都合よく判定基準（閾値など）を変えられてしまうこと

  • 「当時はこういうつもりだった」と判断条件を曖昧にされること

  • 「ログはあるが、本当にそのロジックで動いていたのか」を誤魔化されること

狙いは、事後的な閾値調整（post-hoc threshold tuning）を防ぎ、「あとから言い訳で基準を変えられない状態」にすることです。


それでも万能ではない

誤解してはならないのは、ADICが「万能なAI」を保証するわけではない点です。

未来永劫の誤差ゼロや、想定外の領域での完全な一般化を保証するものではありません。これはAIの精度を上げる魔法ではなく、あくまで「判断条件と検証責任を固定する技術」です。


結論：概念ではなく、公開監査実装と機械検証を外に出した

AIの判断をいくら言葉で説明しても、責任は守れません。必要なのは、あとから語り替えられない強固な条件と、第三者がいつでも再検証できる構造です。

GhostDriftが今回示した最大の成果は、AIガバナンスを理念として語ることにとどまらず、「概念ではなく、公開監査実装と機械検証の両方を外に出した」という事実そのものです。

Lean 4検証は、ADICを「単なる主張」から、後から責任を書き換えられない堅牢な構造へと引き上げました。

 
 
 

コメント

bottom of page