top of page
検索

AIアシュアランスの限界と、突破点としてのADIC

はじめに：AIアシュアランスは「説明」から「証拠」へ移る

AIアシュアランスは、AIを「信頼できる」と説明するための領域から、AI判断がどの条件を満たして通過したのかを第三者が検証できるようにする領域へ移りつつある。

英国政府（DSIT）はAIアシュアランスを、AIシステムの信頼性を「測定・評価・伝達」するための手法と基盤として整理している。しかし、評価・監査・認証が進んでも、個別のAI判断がどの条件を満たして通過したのかを、第三者が同じ手順で再実行できるとは限らない。

GhostDrift数理研究所が開発するADIC（Advanced Data Integrity by Ledger of Computation）は、この不足している証拠層に焦点を当てる。ADICは、判断条件・証明書・台帳・再実行検証器（replay verifier）を接続し、AIアシュアランスを「信頼の表明」から「再実行可能な証拠」へ進めるためのアーキテクチャである。



1. AIアシュアランスとは何か

英国政府のDSIT（科学・イノベーション・技術省）は、AIアシュアランスを「AIシステムの信頼性を測定・評価・伝達し、それが規制・標準・倫理指針・組織価値などの基準を満たしていることを示すための手法・ツール・プロセスの総体」と定義する。同省が公開する「Portfolio of AI assurance techniques」は、技術的・手続的・教育的アプローチを横断する実践例を示している。

つまりAIアシュアランスは、AIガバナンスの理念を、評価・監査・認証・検証可能性へと落とす実務領域である。そのための国際標準として、ISO/IEC 42001（AIマネジメントシステム）、ISO/IEC 42006（AIマネジメントシステムを審査・認証する機関向け要件）、NIST AI RMFが整備されてきた。


2. 市場は立ち上がっているが、監査可能性は追いついていない

AIへの投資と導入は加速しているが、ガバナンス成熟度は停滞している。

McKinseyの「State of AI Trust in 2026」では、責任あるAI（RAI）の組織的成熟度の平均スコアは2.3にとどまり、戦略・ガバナンス・エージェンティックAIガバナンスの各領域で成熟度3以上に達している組織は約3分の1にすぎない。また、RAI実装の最大障壁として、約60%の組織が知識とトレーニングの欠如を挙げており、この割合は前年（約50%）から悪化している。

Grant Thorntonの2026 AI Impact Surveyは、AI導入が進む一方で、独立したAIガバナンス監査に短期間で対応できる自信を持つ企業は限定的であるという実態を示し、この乖離を「AI proof gap」と位置づけている。説明できても、証明できない——この構造が、現在のAIアシュアランスの本質的な問題だ。


3. EU AI Act・ISO・NISTが求める証拠化

規制環境もアシュアランスの強化を要請している。

EU AI Actは2026年8月2日を主要施行期限と定め、高リスクAIシステムに対してリスク管理、技術文書化、ログ記録、人間監視体制、正確性・堅牢性に関する包括的な義務を課す。ただし、EU AI Act Article 43の構造には重要な留保がある。Annex IIIの2〜8に該当する多くの高リスクAIシステムについては、第三者機関（notified body）の関与を伴わない「internal control（内部統制）」による適合性評価が予定されており、個別判断の証拠経路を第三者が再実行できる構造までは、制度だけでは必ずしも閉じない。

NIST AI RMFもExplainabilityを「how/whyの説明」に位置づける一方で、Accountabilityは「責任の割り当てと文書化を通じたガバナンス構造」を求めている。この区別は、説明と検証可能性が別物であることを示している。


4. それでも残る限界：個別判断の再実行不能性

制度・標準・ガバナンスフレームワークが整備されても、一つの根本的な問いは残る。

「あのAIは、あの時、どの条件を満たしてその判断を下したのか——第三者が同じ手順で確認できるか？」

現状の多くのAIシステムは、この問いに答えられない。ログはあっても、判断を下した時点の条件・証拠・閾値が完全に紐づいておらず、事後的に「当時はこういう意図だった」と条件を書き換えることが構造上可能である。これは悪意の問題ではなく、アーキテクチャの問題だ。

GhostDrift数理研究所はこの状態を「責任の真空」と定義する。責任が成立するためには、一つの主体の中に「権限（Authority）」と「能力（Capacity）」の両方が同時に存在しなければならないが、AIエージェントの意思決定がスケールするほど、この結合が解離していく。


5. 事後説明型XAIの限界

現在のXAI（説明可能AI）の主流手法——SHAP、LIME、Grad-CAMなど——は、モデルの判断後に「なぜそう見えるか」を近似的に説明するものだ。これらは有用な分析手法だが、判断条件そのものを証明するわけではない。説明がもっともらしく見えても、その説明が実際の意思決定経路と一致しているとは限らない。

研究によれば、事後説明手法は安定性・再現性に課題があり、類似ケースでも説明が大きく変動する場合がある。さらに、説明を付与することで誤った意思決定への過信を生むリスクも指摘されている。

したがって、XAIは重要な補助線ではあるが、AIアシュアランスの最終的な証拠構造にはならない。必要なのは、判断を説明するアーキテクチャではなく、判断条件を再実行可能な形で確定するアーキテクチャだ。


6. ADIC：証明書・台帳・再実行検証器による再実行可能な証拠層

GhostDrift数理研究所は、ここで述べてきた問題に対して、根本から異なる設計を提示する。

ADIC（Advanced Data Integrity by Ledger of Computation）のアーキテクチャの核心は「説明を加える」のではなく、「応答が許容される条件を事前に確定し、条件の外では沈黙するか拒否する」という設計にある。

ADICは三つの要素で構成される：

  • Certificate（証明書）：判断が通過するための条件と証拠を明示し、事前に確定する

  • Append-only Ledger（追記専用台帳）：判断過程を後から変更できない形で記録する

  • 再実行検証器（Replay Verifier）：同じ入力と証拠から、第三者がPASS/FAILを再実行できるようにする

この構造では、判断の正しさを自然言語の説明に委ねるのではなく、証明書・台帳・再実行検証器の接続として扱う。重要なのは、ADICが「AIシステムの精度を上げる技術」ではなく、「判断条件と検証責任を確定する技術」だという点だ。ADICが保証するのは、事前に定義した境界条件内において「停止すべき異常を検知し、検証可能な証拠を残すこと」である。

GhostDrift数理研究所はこの設計を、エネルギー制御・金融・ロジスティクス・監査コンプライアンスの各領域への実装として進めている。電力需要予測を対象とした実装デモでは、証明書・台帳・独立した再実行検証器という運用モデルが実データで接続されており、概念実証から実装検証へ進むための基盤が整いつつある。


7. Lean 4アーティファクトの意味：「主張」から「機械的に再検証可能な証拠」へ

ADICがさらに一歩進んでいるのは、replay verificationの中核理論をLean 4で形式化し、第三者が同じ手順で検証を再実行できるアーティファクトとして公開している点だ。

GhostDrift数理研究所はADICのcore safety lemmaをLean 4で機械検証した。現行の公開プロジェクト（adic-lean-proof-replay）では、ADIC_RSound_Replay.leanがその中核ファイルであり、lake buildによって第三者が機械的に再検証できる。

これは「安全だと主張する」ことではなく、証明資産を外部から機械的に確認できる形で提示する試みである。Lean 4による形式証明は、信頼の連鎖を、機械的に再検証可能な命題の連鎖へ近づける具体的な試みだ。

なお、このLean証明がADICの全体を網羅的に証明したわけではない。しかし、検証器のコア理論が人間の解釈を経ずに機械的に確認できる形で外部化されているという事実は、AIガバナンスの証拠化において一つの具体的な前進である。


8. 責任工学としてのADIC

ここでいう責任工学とは、AIの判断責任を倫理的スローガンとして扱うのではなく、停止条件・承認条件・検証証跡として設計する考え方だ。

GhostDrift数理研究所が「責任工学（Responsibility Engineering）」と呼ぶ体系は、「責任を倫理や説明で後から補うのではなく、責任が成立する境界と成立しない境界を事前に設計すること」を原則とする。

具体的には三層の境界を設計する：

  • 停止境界（Stop Boundary）：この条件を超えたらシステムは停止する

  • 責任境界（Responsibility Boundary）：この範囲内での決定についてのみ責任が成立する

  • 承認境界（Approval Boundary）：この条件を満たした場合のみ実行が承認される

この設計においてGhostDrift数理研究所が提示するのは、「責任の蒸発を防ぐアーキテクチャ」だ。AIガバナンスの多くは問題が起きた後に責任者を特定しようとするが、ADIC＋責任工学は問題が起きる前に責任の構造を確定させる。

GhostDrift数理研究所はさらに、意思決定の正統性がアルゴリズム側へ構造的に移転する現象を**Algorithmic Legitimacy Shift（ALS）**として捉える。AIの判断能力が高まるほど、人間は個々の判断理由を逐一検証するのではなく、判断が許容条件を満たしていたかを検証する側へ移る。問題は、正統性がAI側へ移るほど、責任の所在が曖昧化する点にある。ADICはこの構造的な問題に対して、事前設計された検証可能な実行境界を与える。


9. なぜADICはいま重要なのか

規制は「説明」から「証拠」へ進んでいる

EU AI Actが求める適合性評価は、Article 43の内部統制ルートにより、多くの高リスクシステムで第三者機関の深い技術検証を伴わない形で完結しうる。しかし、規制は証拠化の方向へ確実に進んでいる。NIST AI RMFもISO/IEC 42001も、文書化・透明性・監査証跡の要件を強化しており、個別の判断について「どの条件を満たしたから通過したのか」をアシュアランス証跡として残す必要性は高まっている。ADICが提供する証明書と台帳ベースのreplay構造は、監査・説明責任・第三者検証に耐えるアシュアランス証跡の有力な候補となる。

エージェンティックAIには、実行前の境界設計が必要になる

Partnership on AIが指摘するように、エージェンティックAIは「行動の非可逆性」という新しい問題を持つ。一度実行されたアクションは取り消せない。この文脈では、実行後に説明するだけでは不十分になる。行動前に通過条件を定め、条件外では実行しない構造が必要になる。ADICは、この問題に対して証明書・台帳・再実行検証器による検証可能な実行境界を与える。

形式証明は、信頼を検証可能性へ近づける

現在のAIガバナンスの多くは、最終的に「信頼」に依存している。ベンダーを信頼する、モデルカードを信頼する、監査者を信頼する。GhostDrift数理研究所が指摘するように、ALS時代においては正統性の基準が「誰が言ったか」から「第三者計算主体がPASS/FAILできるか」へ移転しつつある。Lean 4による形式証明は、信頼の連鎖を、機械的に再検証可能な命題の連鎖へ近づける具体的な試みである。

台帳と証明書は、責任の単位化を可能にする

ADICの証明書は、AIの判断について「この条件で計算し、この理由でこの判定に至った」を第三者が追試できる形で残す。台帳はその計算を改ざん不能な順序付き記録として保存する。この二つの組み合わせにより、「このステップの責任はここにある」という単位での帰属が可能になる。現在の「ブラックボックスAI＋後付け説明」の構造では実現しにくい帰属の明示性を、ADIC構造は設計として内包する。

理論・形式証明・実装を接続できることが重要である

関連技術については特許出願中のものがあり、またGitHub上の公開デモでは証明書・台帳・再実行検証器という考え方を実データに接続する試みが示されている。GhostDrift数理研究所が提示する「Theory → Formal Proof → Implementation」の三層が接続されているという事実は、ADICが純粋なアカデミック議論に留まらず、組織のAIガバナンス実装に対して技術的な具体案を提示できる段階にあることを意味する。


結論：AIアシュアランスの次の競争軸

AIアシュアランスの課題は、説明を増やすことではない。説明が正しいかどうかを、第三者が検証できる構造に変えることである。

EU AI Act、ISO/IEC 42001、NIST AI RMFが示しているのは、AIの信頼性を文書・管理・評価・監査の対象にする流れだ。しかし、個別のAI判断について、どの条件を満たしたから通過したのかを再実行可能な形で示す仕組みは、まだ一般化していない。

AIアシュアランスの次の競争軸は、説明の巧さではない。その判断が、どの条件を満たして通過したのかを、第三者が再実行できることだ。ADICは、そのための証拠層を設計する。


出典

AIアシュアランス・制度・標準

  1. UK Government / DSIT (2024, February). Introduction to AI Assurance. https://www.gov.uk/government/publications/introduction-to-ai-assurance/introduction-to-ai-assurance

  2. UK Government / DSIT. Portfolio of AI assurance techniques. https://www.gov.uk/guidance/portfolio-of-ai-assurance-techniques

  3. UK Government / DSIT (2025, September). Trusted Third-Party AI Assurance Roadmap. https://www.gov.uk/government/publications/trusted-third-party-ai-assurance-roadmap/trusted-third-party-ai-assurance-roadmap

  4. EU AI Act, Article 43 – Conformity Assessment. Regulation (EU) 2024/1689. https://artificialintelligenceact.eu/article/43/

  5. NIST (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). https://airc.nist.gov/RMF

  6. ISO/IEC 42001:2023 – Information technology – Artificial intelligence – Management system.

  7. ISO/IEC 42006 – Information technology – Artificial intelligence – Requirements for bodies providing audit and certification of AI management systems.

  8. Stanford HAI / CRFM (2025, December). The 2025 Foundation Model Transparency Index. Wan et al. arXiv:2512.10169. https://hai.stanford.edu/news/transparency-in-ai-is-on-the-decline

  9. McKinsey & Company (2026, March 25). State of AI Trust in 2026: Shifting to the Agentic Era. https://www.mckinsey.com/capabilities/tech-and-ai/our-insights/tech-forward/state-of-ai-trust-in-2026-shifting-to-the-agentic-era

  10. Grant Thornton (2026). 2026 AI Impact Survey Report. https://www.grantthornton.com/services/advisory-services/artificial-intelligence/2026-ai-impact-survey

  11. Partnership on AI (2026, February 19). Six AI Governance Priorities for 2026. https://partnershiponai.org/resource/six-ai-governance-priorities/

XAI・事後説明の限界

  1. Singh, Y., et al. (2025, August 15). "Beyond Post hoc Explanations: A Comprehensive Framework for Accountable AI in Medical Imaging." Bioengineering, 12(8), 879. https://doi.org/10.3390/bioengineering12080879

  2. Groen, J., et al. (2023). "The future of human-centric eXplainable Artificial Intelligence (XAI) is not post-hoc explanations." arXiv:2307.00364. https://arxiv.org/pdf/2307.00364

GhostDrift / ADIC

  1. GhostDrift数理研究所 (2026). "Turning AI Governance into Re-Executable Evidence — Release of the ADIC Lean 4 Artifact." https://www.ghostdriftresearch.com/post/turning-ai-governance-into-re-executable-evidence-release-of-the-adic-lean-4-artifact

  2. GitHub: GhostDriftTheory/adic-lean-proof-replay – 現行Lean形式証明リポジトリ（中核ファイル: ADIC_RSound_Replay.lean）. https://github.com/GhostDriftTheory/adic-lean-proof-replay

  3. Maeki, Hidemitsu (2026). Deterministic Replay Verification of Interval Programs over a Finite Primitive Core via Quantifier-Free Integer Certificates. Zenodo. https://zenodo.org/records/19821808

  4. GhostDrift数理研究所 – 公式サイト・責任工学・ADIC. https://www.ghostdriftresearch.com

 
 
 

コメント

bottom of page