top of page
検索

AIは「当たる」より先に「責任」を失う―― 予算が異常検知を消す構造と、その遮断実装（Ghost Drift Audit 公開）

（概念の地続き宣言） 後付け不能性が「結果後に基準を動かしてはならない」という規則を、責任蒸発がその失敗症状を指す概念だとすれば、本稿で示す監査エンジンはその遮断機構である。Scientific Fixed と Ops Budget を分離し、すべての判断を ADIC バンドルとして検証可能に記録する。



AI運用では、アラート対応のコストを理由に閾値が調整される。この操作は運用として合理的だが、結果として「モデル前提が崩れた瞬間」が報告系から脱落する（逸脱が可視化されない構造が生まれる）。

本稿では、この脱落を Ghost Events と定義し、科学基準（Scientific Fixed）と運用予算（Ops Budget）を分離して計算する監査実装 GhostDrift-ADIC-Audit v8.0 (Scientific Integrity) を提示する。


1. 「ゴースト・イベント」：運用制約で抑制される異常検知

従来のAI運用では、アラートが多すぎると運用コストが嵩むため、閾値を緩和して対応を回避する傾向がある。しかし、数理的な視点に立てば、その緩和された閾値の下には、確実に「モデル前提が成立しない状態」が沈殿している。

本プロトコルでは、これらを "Ghost Events"（抑制されたリスク） と定義した。v8.0では、運用者が恣意的に閾値を操作してリスクを報告系から脱落させることを防ぐため、「科学的基準（Scientific Fixed）」と「運用予算（Ops Budget）」を完全に分離して計算・記録する。


2. 実行プロファイル：再現性のための「鉄の掟」

本システムは、用途に応じて監査の厳格さを切り替える「実行プロファイル（PROFILE）」を導入した。これは単なる設定変更ではなく、AIに対する「誠実さの誓約」である。

  • Commercial（商用モード）: 実際の運用環境向け。データ契約（Data Contract）への厳格な適合を求め、違反があれば証明書の発行を拒絶して停止する。

  • Paper（研究モード）: 論文や実験向け。学習とテストの境界を日付で固定し、あらゆるパラメータの「後出しジャンケン（P-hacking）」を数学的に封じ込める。

  • Demo（デモモード）: 合成データによる学習用。ただし、公式な「Verdict（判定）」は下されない。


3. 改ざん不能な「監査証明書（ADIC）」

本エンジンは、実行の傍らで ADIC (Audit Drift Integrity Certificate) を発行する。この証明書には以下の「指紋（Fingerprint）」が刻印される。

  1. Data SHA256: 入力された全データの整合性。

  2. Code SHA256: 判定ロジックが途中で書き換えられていないことの証明。

  3. Config SHA256: 閾値や設定値が「結果を見てから調整」されていないことの保証。

これらにより、第三者は配布された Verification bundle を用いるだけで、当時の判定結果を 1ビットの狂いもなく再現し、検証することが可能になる。

[補足] ADICが保証しないもの（非保証範囲の明示）

ADICが保証するのは「結論の正しさ」ではなく「手続きの固定」である。具体的には、(i) 入力データ、(ii) 判定コード、(iii) 設定値（閾値・基準ID・PROFILE）、(iv) 実行ログの整合性が固定され、第三者が Verification bundle により当時の判定を同一手順で再実行できることを保証する。一方で、データ収集の妥当性、将来性能、業務判断の倫理性・適法性といった規範判断はADICの射程外である。ADICは「後付けで基準や手順を動かして責任を蒸発させる」経路のみを数学的に遮断する。


4. ケーススタディ：2024年 東京の電力需要予測

デモとして、実際の東電エリア電力需要と気象データ（2024年1月〜4月）を用いた監査レポートを同梱している。レポートが下した判定は NG (TAU_CAP_HIT)。

冬のデータで学習したモデルが、4月の「日没時間の変化」や「22℃を超える気温への非線形な反応」に対応できず、構造的な限界を迎えたことを、物理的根拠（日照・カレンダー特性）と共に白日の下にさらす。特筆すべきは、「運用予算によって抑制されていた異常（Ghost Events）」が全検出数の40%に達していたという事実の再現である。


5. AIガバナンスの新しいスタンダード

本プロトコルは、以下のような「説明責任」が求められる現場を想定して設計されている。

  • インフラ・重要施設: モデルの限界を予算制約で隠蔽せず、再学習のタイミングを科学的に特定する。

  • 金融・リーガルテック: 判断の正当性を、実行時の指紋と共に第三者（監査法人等）へ提出する。

  • AI研究者: 自身のモデルが特定の条件下で正しく動作したことを証明する、再現可能な証拠資料として。


6. リソースリンク集


Technical Background (for positioning)

以下の文献は、本プロトコルを支える数理的および検証的背景を示す。これらを読み解くことは、監査プロトコルそのものを理解するための必須条件ではないが、本実装が立脚する理論的伝統を示すものである。

Constructive & Computable Foundations

  • K. Weihrauch, Computable Analysis, Springer, 2000.

    （計算可能性を「後付け不能」にする理論的基盤）

  • E. Bishop, D. Bridges, Constructive Analysis, Springer, 1985.

    （存在＝構成という立場。事後説明を排除する数学的態度）

Rigorous Verification & Numerics

  • S. M. Rump, “Verification methods: Rigorous results using floating-point arithmetic”, Acta Numerica, 2010.

    （浮動小数点計算を「検証可能な結果」に昇格させる手法）

  • K. Ozaki et al., “Verified numerical computations…”, Applied Mathematics, 2021.

    （実務スケールでの検証付き数値計算）

Proof-Relevant Design

  • A. Petrakis, “Proof-relevance in Bishop-style constructive mathematics”, APAL, 2022.

    （結果ではなく「いかにして得たか」を証拠として残す思想）


結びに代えて

AI運用で必要なのは「当たったか」ではなく、「外れたときに、どの基準と手順で、どの限界として外れたのか」を第三者が再現できる形で残すことだ。GhostDrift-ADIC-Audit は、Scientific Fixed と Ops Budget を分離し、後付けの基準変更による責任蒸発を遮断するための監査実装である。実装・マニュアル・監査レポートは以下に公開した。

GhostDrift Mathematical Institute (GMI) https://ghostdrifttheory.github.io/ghostdrift-adic-audit/

 
 
 

コメント

bottom of page