責任あるAIから、検証可能なAIへ——AXが変える、AI判断の採用条件

kanna qed
7月5日
読了時間: 6分

「検証可能なAI」と責任OSの関係については、すでに別記事で整理しました。本稿はその続きとして、AX（AI Transformation）という文脈を加えます。AXが進むほど、企業はAI判断を正式運用に採用せざるを得なくなります。その段階で初めて「責任あるAI」では足りないことが見えてきます。必要なのは「検証可能なAI」であり、その基盤が責任OSです。

▼「責任OS」のプレスリリースはこちら

https://prtimes.jp/main/html/rd/p/000000004.000182721.html

AXが変えること

AI活用とAXは違います。AI活用は、AIを便利なツールとして使うことです。生成AIで文章を作る、需要予測に使う、レポートを自動生成する。これらはAI活用です。AXは、AI判断を業務・組織・意思決定の中に組み込み、会社そのものを再設計することです。AIが出した配送ルートを正式運用に採用する。AIが出した与信判断を会社として引き受ける。AIが出した在庫配分を荷主に対して説明する。AI活用の段階では「AIを参考にした」で済みます。AXの段階では「AIの判断を会社として採用した」になります。この違いは小さくありません。「参考にした」と「採用した」の間には、責任状態の違いがあります。McKinseyの調査（2025年）によれば、88%の組織が少なくとも1つの業務機能でAIを通常利用していますが、全社スケールでの定着は約3分の1にとどまっています。AI活用は広がっていますが、AI判断を会社判断として正式に採用する段階への移行はまだ途上です。Grant Thorntonの2026年AI Impact Survey（C-suite・上級リーダー950人調査）は、この断絶を「AI proof gap」と呼んでいます。多くの企業が、AI判断がどう行われ、誰が結果を引き受けるかを後から示せない状態にある、というものです。

「責任あるAI」だけでは、採用証拠まで残らない

「責任あるAI（Responsible AI）」という概念は正しいです。公平性、安全性、透明性、説明可能性、プライバシー、説明責任。NISTのAI Risk Management Frameworkでも、これらは信頼できるAIの特性として整理されています。これらは否定されるべきものではありません。しかし、AXの段階で企業が直面する問いは、もう一段具体的です。

- AIはどの情報を見て、その判断を出したのか
- どの条件を満たしていたから採用したのか
- 人間はどこまで確認したのか
- 未確認条件は何だったのか
- 後から第三者が同じ経路で検証できるのか

copy

「責任あるAI」は、AIシステムが正しく設計されているかを問います。しかし、個別のAI判断が会社判断として採用できる責任状態にあったかどうかを、後から示せるかどうかは別の問いです。AIガバナンスの枠組みが整備されつつある今でも、1回ごとの判断採用時の責任情報は自動的には残りません。方針と証拠の間に、実装層が必要です。

検証可能なAIとは何か

「検証可能なAI（Verifiable AI）」は、AIモデルが常に正しいという意味ではありません。AI判断がどの責任情報に基づき、どの未確認条件を残し、どの責任状態として会社判断に採用されたのかを、後から監査・検証できる状態にすることです。ここで重要な概念を整理します。責任情報（Accountability-Relevant Information）AI判断について、結果だけでなく、来歴、追跡可能性、監査証跡、確認済み条件、未確認条件、関与主体、判断の順序を含めて、後から責任状態を確かめられるようにする情報です。責任状態（Accountability State）ある時点における「誰が、どの根拠に基づき、何が確認済みで、何が未確認だったか」という状態の総体です。責任情報は、この責任状態を後から再構成するために必要な情報です。監査可能性（Auditability）と検証可能性（Verifiability）監査可能性は「外部から確認できる」こと。検証可能性は「規則に照らして正しいと示せる」こと。検証可能性は監査可能性より強い要求です。検証可能なAIが目指すのは後者です。通常の監査ログが「何が起きたか」を残すのに対し、責任情報は「その判断を会社として採用できる状態だったか」を残します。この差が、AXの段階で重要になります。

情報欠落が起きるとき

AI判断を「承認済み」「AI出力あり」という平たい記録に集約するとき、責任上重要な情報が失われます。本来は、どの順序で、どの条件を確認し、どの未確認条件を残したまま、どの責任状態へ遷移したのかによって、判断の意味は変わります。AIが先に判断して人間が事後確認した場合と、人間が条件を確認してからAIが判断した場合は、同じ「承認」でも責任状態が異なります。この順序の違い（非可換性）が失われると、後から責任を区別することができなくなります。これが責任OSの言う「情報欠落」です。データ量の減少ではなく、区別すべき責任状態が同じ出力に見えてしまう状態を指します。

AXの完成条件は「検証可能なAI」

AXが進むほど、この問題は大きくなります。AIを参考にするだけなら、情報欠落は許容できます。しかし、AIの判断を会社として採用するなら、採用条件・確認範囲・未確認条件・差し戻し条件が責任情報として残っていなければ、後から誰も引き受けられません。Gartnerは、エージェントAI案件の40%超が2027年末までに中止される可能性があると予測しています。理由として、不十分なリスク管理を挙げています。精度だけの問題ではなく、事業価値・リスク管理・運用設計の問題でもあります。AXの完成条件は「AIを使える会社」になることではありません。AI判断を検証可能な会社判断に変えられる会社になることです。EU AI Actは、高リスクAIに対してログ記録（Article 12）と人間による監督（Article 14）を求めています。ここで問われているのも、「確認した」という記録だけでなく、その監督が機能していたか——AI出力を理解・監視し、必要に応じて採用しない判断ができる監督状態だったかです。

責任OSは、検証可能なAIの基盤

責任OSは、検証可能なAIを実現するための実装層です。責任OSは、AI判断を責任情報として保持し、責任状態として扱うための基盤です。結果だけでなく、来歴、追跡可能性、監査証跡、未確認条件、判断の順序を残すことで、AI判断を後から確かめられる会社判断に変えます。ADICは、責任情報を後から検証できる証跡として残す技術基盤です。ALSは、「人間が確認したから安心」という前提だけでは支えきれない局面を扱う理論です。GhostDrift数理研究所は、これらの基礎理論をLean 4による形式証明として公開しています。「後から検証できる」という主張そのものを、コンピューターが確かめられる数学的な形で固定することで、AIアシュアランスを「信頼の問題」から「証拠の問題」へ変えることを目指しています。

責任あるAIから、検証可能なAIへ

「責任あるAI」という理念は正しいです。しかし、AXの段階では足りません。責任あるAIが「AIを正しく設計する」ことを目指すのに対し、検証可能なAIは「個別のAI判断が会社判断として採用できる責任状態にあったことを、後から示せる」ことを目指します。この転換は、AIの問題ではなく、会社の設計の問題です。AXが進むほど、AI判断を正式運用に採用せざるを得ない局面が増えます。そのとき、「責任あるAIを使っている」だけでは、誰も引き受けられません。「この判断を、この条件で、この責任状態で採用した」と後から示せる構造が必要です。責任OSは、その構造を作ります。