AIガバナンスは、「ルールを書く」段階から「機能したことを検証する」段階へ
第Ⅱ期人工知能基本計画とAISIの「検証可能性」「観測と制御」が示す実装課題
多くの企業が、AI利用方針、リスク管理規程、人間による確認手順を整え始めています。これらは不可欠です。
しかし、AIが文章を生成するだけでなく、自ら計画し、外部システムを呼び出し、業務上の操作を実行する時代には、ルールが存在することと、特定の判断・実行においてルールが実際に機能したことは同じではありません。
必要なのは、次の問いに答えられるAIガバナンスです。
2026年の第Ⅱ期人工知能基本計画とAIセーフティ・インスティテュート（AISI）の文書を読むと、日本のAI政策は、制度やガイドラインを整える段階から、検証可能性、ログ、観測、制御、停止、適合性評価を含む「技術によるAIガバナンス」へ明確に踏み込み始めています。[1][2][3]
▼関連する発信
1. 政府は「制度だけでは信頼できるAIを実現できない」と明記した
第Ⅱ期人工知能基本計画は、「信頼できるAI」について、政府が制度を運用するだけでは実現できないと明記しています。[1:1]同計画が示したのは、次の三つを統合するガバナンスです。
技術進展に合わせて制度を継続的に見直す「制度による対応」
制御機能、技術標準、技術評価を組み込む「技術による対応」
リスク事案や技術動向を把握し、組織全体で管理する「組織管理による対応」
さらに政府は、AISIを中心として、AIモデルの評価、トレーサビリティ、ガードレール等の技術的制御を可能にする評価能力を強化し、その結果を制度、指針、行政運用の改善へ接続する方針を示しました。[1:2]これは重要な転換です。AIガバナンスは、規程や原則を作成して終わるものではなくなりました。どの制御機能を設計へ組み込み、それが実際に作動するかをどのように評価し、その結果を次の制度・運用改善へ戻すかまでが政策上の対象になっています。
ルールを定める
↓
制御機能として実装する
↓
実際の動作を評価する
↓
証拠を残す
↓
制度・運用を更新する
copy
2. 「説明可能性」と「検証可能性」は同じではない
2026年7月に公表されたAISI「AIセーフティに関する評価観点ガイド 第1.20版」は、「検証可能性」を独立した評価観点として掲げています。[2:1]同ガイドが目指しているのは、AIシステムがどのような経緯で動作したのか、開発・提供のプロセスがどのように実施されたのかを、ログや技術仕様等から検証できる状態です。検証可能性が不足すれば、問題発生時に原因を特定できず、再発防止策も設計できない可能性があるとしています。[2:2]ここで、「説明可能性」と「検証可能性」を分けて考える必要があります。説明可能性は、AIの出力や挙動について、人が理解できる説明を得られるかという問いです。一方、検証可能性は、残された記録、仕様、データの来歴、設定、処理履歴等を用いて、第三者が実際の経緯を確かめられるかという問いです。AIがもっともらしい理由を文章で表示しても、その理由が実際に参照した証拠、適用されたルール、実行された処理と対応しているとは限りません。したがって、AI時代の説明責任には、少なくとも次の情報が必要になります。
入力データと証拠の来歴
適用したルール及びその版
モデル、設定、ツール、外部システムの構成
実際に呼び出された処理とその順序
判断・承認・停止に関与した主体と権限
結果だけでなく、未確認・不成立だった条件
これは単なるログ保存ではありません。後から責任ある判断を再構成できるように、失ってはいけない情報をあらかじめ定義する設計です。
3. AIエージェントには「観測と制御」が必要になる
同ガイド第1.20版で特に重要なのが、AIエージェントシステム向けに追加された「観測と制御」という評価観点です。[2:3]AIエージェントは、利用者が一回入力した問いに答えるだけではありません。目標達成に向けて情報を取得し、記憶を参照し、手順や行動を自律的に選択し、外部システムへ働きかけます。そのため、事前に禁止事項を書くだけでは、目標からの逸脱、権限の越境、誤った記憶に基づく連鎖的な行動などを十分に防げない場合があります。AISIは、観測の例として、内部コンポーネントの呼出し・実行履歴、事前定義した高リスクタスクの実行、利用者の意図や当初目的からの逸脱、リソース使用量等の把握を挙げています。制御の例としては、異常や逸脱が検知された場合の人間による介入・停止等を示しています。[2:4]ここで必要なのは、「最後は人が確認する」という抽象的な宣言ではありません。誰が介入できるのか。どの状態を異常とみなすのか。どの操作を停止対象とするのか。停止命令が実行経路へ届いたのか。その結果、対象の状態遷移が本当に止まったのか。Human in the leadを成立させるには、人間の主導権を、権限、介入条件、停止経路、証拠記録として実装する必要があります。
4. VerificationとValidation——設計したことと、実際に機能したことを分ける
AISIの同ガイドは、AIエージェントシステムの技術的評価を、VerificationとValidationの二つの観点から整理しています。[2:5]**Verification（検証）**は、設計・仕様が要件を満たしているかを確認するものです。たとえば、アーキテクチャ設計、権限設定、予防的制約が要求どおり組み込まれているかを確認します。**Validation（妥当性確認）**は、実環境またはそれに近い環境で、システムが意図したとおりに機能するかを確認するものです。テストデータによる動作試験、ログの記録・確認、攻撃を想定した試験、高リスクタスクや異常検知時に人間が介入・停止できるかの確認が含まれます。この区別は、AIガバナンスに直接当てはまります。停止ルールが文書に書かれていること。停止ボタンが画面に存在すること。停止権限が規程上割り当てられていること。これらは重要ですが、それだけでは、実際の異常時に停止できることを示しません。必要なのは、停止条件が検知され、正しい主体へ通知され、介入命令が実行経路へ届き、対象の操作が停止し、その一連の事実が記録されたことを確認することです。
5. Reportingから、適合性評価と個別実行の検証へ
広島AIプロセスは、国際指針と国際行動規範を形成した後、OECDと連携したReporting Frameworkへ展開しました。2026年5月にはVersion 2.0が公開され、開発者だけでなく、デプロイヤーやプロバイダーを含むAIバリューチェーン上の組織が、自らのリスク管理や信頼できるAIに向けた取組を共通形式で報告できるようになっています。[4][5]Reportingは、組織間の透明性と比較可能性を高めるために不可欠です。ただし、その役割は、組織がどのような方針、体制、取組を持つかを説明することです。特定の日時に行われた一件のAI判断について、必要な証拠がそろい、正しいルールが適用され、適切な権限者が関与し、停止条件が作動したことを直接証明する役割とは異なります。AISIの「2025年度 適合性評価SWG 活動報告書」は、AIがサービス形態や運用体制とともに動的に変化し続けるため、従来の一過性・縦割りの適合性評価では対応しきれない可能性を指摘しています。自己適合性評価を含む評価手法と、実行可能な運用手順の確立を課題として掲げています。[3:1]また、京都大学・IPA・AISIの共同研究について、法、標準、適合性評価の関係を整理し、適合性評価を「法が正しく機能していることの証跡」として捉える役割を検討したと報告しています。[3:2]この流れは、次のように整理できます。なお、これは各文書の公式な上下関係を示すものではなく、本稿における実装上の整理です。
国際原則・行動規範
↓
組織の取組を共通形式で報告する
↓
設計・運用が要求へ適合しているか評価する
↓
個別の判断・実行で条件が成立したことを検証する
↓
証拠を残し、事後に再検証する
copy
ReportingからVerificationへ、という表現は、前者を否定するものではありません。報告、適合性評価、実行時検証は、それぞれ異なる階層の問いに答える補完関係にあります。
6. 「機械的に確認する」とは、すべてを自動化することではない
ここで注意が必要です。AISIは、ルールベース評価やモデルベース評価など、ツールによってAIセーフティ評価の一部を効率化できる一方、すべての評価観点をツールで自動実施することは難しく、他の手法と組み合わせる必要があると明記しています。[2:6]したがって、技術によるAIガバナンスの目標は、人間の判断を消すことではありません。目標は、曖昧なまま人に委ねる範囲を減らし、客観的な条件として定義できる部分を、機械検証可能な形へ変えることです。たとえば、次の事項は比較的、機械検証へ移しやすい領域です。
必要な証拠がそろっているか
証拠の改ざん検知、来歴、期限、鮮度が有効か
適用すべきルール版と実際の評価ロジックが一致しているか
対象、操作、送信先、実行環境が認可内容と一致しているか
承認者に必要な権限があり、承認が有効期間内か
停止条件または人間介入条件が成立していないか
一方、社会的妥当性、価値判断、例外承認、法的解釈など、文脈依存性の高い判断には人間の関与が必要です。大切なのは、人間と機械の役割分担を曖昧にしないことです。どこまでを決定論的に検査し、どこからを人間へエスカレーションし、その判断をどのような証拠とともに残すかを設計します。
7. 責任OSは、原則と業務実行の間に置く独立検証層である
GhostDrift数理研究所が開発を進める「責任OS」は、AIモデルそのものを置き換えるものではありません。また、AIシステム全体の安全性や法令適合性を単独で証明するものでもありません。責任OSが担うのは、AIの提案や重要操作を企業の正式な判断として採用する直前に、あらかじめ定めた業務要件と、判断を支える責任情報を独立して照合する運用層です。[6]
AIの提案・実行要求
↓
独立検証層
（条件・証拠・権限・版・鮮度・対象の照合）
↓
許可／保留／人間介入／拒否
↓
実行結果・判断理由・責任情報の記録
↓
事後の再検証
copy
ここでは、業務上満たすべき条件を「業務要求パケット」として事前に固定し、その条件を支える主張、証拠、主体、権限、来歴等を「責任情報パケット」として受け取ります。必要な条件が成立し、証拠と権限が有効である場合にのみ、対象操作へ一回使用の実行資格を与える。条件が欠ける場合、証拠が古い場合、対象や設定が差し替わった場合には、実行前に停止する。実行後は、使用したルール、証拠、資格、結果を結びつけて記録する。重要なのは、次の二層を分けることです。第一層は実行前の制御です。 条件を満たさない操作を通さないためのゲートです。第二層は実行後の証拠です。 何を根拠に通したのか、実際に何が起きたのかを後から再検証するための責任記録です。この二層が結びつくことで、「ルールがある」「人が確認した」「ログが残っている」という断片的な説明を、個別実行について再検証可能な証拠へ変えていきます。ただし、責任OSが直接扱うのは、指定された業務条件、証拠、権限、停止、責任記録の検証です。サイバーセキュリティ、法令解釈、プライバシー、コンテンツ来歴、組織監査等については、それぞれの専門的な要件と制御を別途接続する必要があります。
8. アジャイル・ガバナンスだからこそ、過去の判断は固定する
第Ⅱ期人工知能基本計画は、技術進展とリスクの変化に応じて制度や運用を継続的に見直す、責任あるアジャイル・ガバナンスを重視しています。[1:3]ルールは、変化する環境に合わせて更新されなければなりません。しかし、ルールが変わるからといって、過去の判断まで新しいルールで読み替えてよいわけではありません。事後検証に必要なのは、判断時点の状態です。
どの版のルールが適用されたか
どの証拠窓としきい値が使用されたか
誰がどの権限で承認したか
どの条件が成立し、どの条件が未確認だったか
どの結果が実際に実行されたか
AIガバナンスに必要なのは、次の組合せです。
未来のルールは柔軟に変える。一方、過去の判断については、当時のルール、証拠、権限、結果を変更履歴とともに固定する。この構造がなければ、アジャイルな更新は、後から責任を追えない運用にもなり得ます。
結語：信頼とは、ルールの数ではなく、機能した証拠を示せることである
ルールを書くことは、AIガバナンスの出発点です。しかし、AIが判断と実行へ進む時代には、それだけでは十分ではありません。必要なのは、ルールを制御機能へ翻訳し、実行時に条件を確認し、異常時に止め、結果と根拠を記録し、後から再検証できることです。すべての評価を自動化する必要はありません。むしろ、機械的に確認できる部分と、人間の判断が必要な部分を分け、その境界と責任経路を明確にすることが重要です。広島AIプロセスが国際原則を形成し、OECDの報告枠組みが透明性を高め、第Ⅱ期人工知能基本計画が「技術による対応」を掲げ、AISIが「検証可能性」「観測と制御」「Verification／Validation」を具体化し始めました。次に産業界が問われるのは、その原則と評価観点を、実際の業務判断で機能する条件、証拠、停止、責任記録へ変えられるかです。
参考文献・一次資料
脚注
内閣府「人工知能基本計画」（2026年7月14日閣議決定）。本稿では第Ⅱ期人工知能基本計画と表記。本文14頁に制度・技術・組織管理の統合、16頁にトレーサビリティ、ガードレール等の技術的制御と評価能力の強化を記載。 ↩︎ ↩︎ ↩︎ ↩︎
AIセーフティ・インスティテュート（AISI）「AIセーフティに関する評価観点ガイド 第1.20版」（2026年7月7日）。本文34頁に検証可能性、35～38頁に観測と制御、43～45頁にツール評価、Verification、Validation、介入・停止機能の確認を記載。 ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎
AIセーフティ・インスティテュート（AISI）「2025年度 適合性評価SWG 活動報告書」（2026年4月23日）。動的に変化するAIに対する適合性評価、実行可能な運用手順、法・標準・適合性評価の関係を整理。 ↩︎ ↩︎ ↩︎
外務省「広島AIプロセスに関するG7首脳声明」（2023年10月30日）。広島プロセス国際指針及び国際行動規範を掲載。 ↩︎
OECD「OECD launches streamlined Hiroshima AI Process Reporting Framework to help small- and medium-sized enterprises participate」（2026年5月28日）及び「HAIP Reporting Framework」。 ↩︎
株式会社GhostDrift数理研究所「自律型AIの判断は『人間が確認すれば安心』と言えるのか——GhostDrift、AI判断を後から確かめる『責任OS』基礎理論を情報学とLeanで公開」（2026年6月26日）。 ↩︎
コメント