不可知境界：責任を成立させるための「わからなさの固定」

kanna qed
1月8日
読了時間: 6分

1. 冒頭：なぜAIインシデントや業務トラブルは、いつも責任が蒸発するのか

「なぜ、あれほど説明を尽くしたはずのAI事故や業務トラブルにおいて、最後には誰も責任を取れない状態――責任の蒸発――が起きるのでしょうか？」

その理由は、私たちの「説明」のタイミングにあります。多くの組織は、問題が起きた後に懸命に説明を作ります。しかし、結論から言えば、責任は“事後の説明”では生まれません。

判断を下すその瞬間に、「ここから先はわかっていない」という空白を固定しない限り、責任は成立しないのです。この固定された限界線を、私たちは**「不可知境界（Boundary of the Unknowable）」**と呼びます。

2. 定義：未知ではなく「不可知」を固定する

不可知境界とは： 判断の前に、「ここから先は原理的に埋めることができない」と確定させる限界線のこと。

ここで重要なのは、「未知」と「不可知」を峻別することです。

未知： 今は知らないが、後で（データを増やせば）分かること。
不可知： 判断を下すその時点の材料では、どう足掻いても埋めることができない空白。

不可知境界は「宣言」ではなく「記録単位」である： 不可知境界は「言った」だけでは成立しません。境界（X）を含む意思決定は、確実な事実（内側）と空白（境界）を一体のログとして固定した瞬間にのみ成立します。責任とは、この固定された記録を引き受けるという意志の表明です。

重要な補足： Xは免責ではありません。Xを“埋めない”と決めた判断そのものが責任である、という峻厳な事実こそが不可知境界の本質です。

3. 「責任の蒸発」との関係：なぜ後付け説明が責任を殺すのか

なぜ「説明」を増やせば増やすほど責任は消えるのでしょうか。

現象： 事故が起きた後、原因分析として膨大な「説明」が増殖し、結局「仕方がなかった」という結論に落ち着く。
構造： 判断の前に境界（不可知の範囲）が引かれ、記録として固定されていないため、事後にその境界を都合よく書き換え（Ghostの侵入）、あたかも「予測可能だった」あるいは「不可抗力だった」と後講釈が可能になる。

核心： 不可知境界を事前に設けていない意思決定において、責任という概念は最初から成立し得ません。この固定がない意思決定は、事後に判断理由が無限に書き換え可能であり、責任は原理的に崩壊します。

4. 読者が陥りやすい3つの勘違い

「データを増やせば解決する」ではない データが増えても、判断の瞬間に存在する「解釈の余地（空白）」は消えません。
「確率で包めば責任が立つ」ではない 「90%の確率で成功する」という言葉は、残りの10%が起きた時の責任を放棄するための免罪符になりがちです。
「説明責任＝説明を上手くすること」ではない 説明責任とは、事後に流暢に語ることではなく、事前に「何を語らないか」を確定させ、記録することです。

不可知境界は“説明技術”ではなく、意思決定の“前提条件”です。

5. 実務チェック：その判断に「不可知境界」は立っているか

あなたの目の前にある判断に、責任を成立させるための境界が立っているか、以下の4つの問に答えてください。

Q1. その“わからなさ”は、データ追加で消える種類か？
- YES → それは単なる「未知」です。
- NO → 次へ。
Q2. 判断前にその空白を埋めると、後から説明を書き換え可能になるか？
- YES → それこそが「不可知境界」を引くべき箇所です。
Q3. 「ズレたら仕方ない」という覚悟を、判断後ではなく判断前に置けているか？
- YES → 境界が立っています。
- NO → 境界は立っていません。
Q4. 内側A〜Cと境界Xが、改ざん不能な形で記録されているか？
- YES → 責任が成立する準備が整いました。
- NO → それはまだ「単なる宣言」であり、境界は立っていません。

6. 不可知境界の“具体形”：AI導入における「意思決定の封印」

例えば、AIモデルの導入判断を考えてみましょう。

内側（確実な事実）： 学習データの分布、テスト精度、現在のパラメータ、採用基準（どの閾値で導入としたか）。
境界（不可知の空白）： 本番環境における未知の入力パターン。
固定： 「本番での未知の入力による挙動は予測不能である」と決定前にログに刻む。

境界を固定しない導入は、事故後に「想定外だった」「運用が悪い」「データが偏っていた」といった言い訳が無限に増殖し、意思決定そのものが事後に別物へ書き換えられます。境界固定とは、この書き換えを物理的（改ざん不能）に禁止する“意思決定の封印”です。

7. 「Ghost」との違い：線か、浸食か

不可知境界： 判断の瞬間に固定する明確な「限界線」。
Ghost： その限界線を無かったことにし、事後に意味や言い訳を侵入させる「線を踏み荒らす後付け」。

不可知境界を記録として封印することで、Ghostが湧き出す隙間を事前に塞ぐことが可能になります。

8. 責任蒸発のトリガー：境界の外を埋めるフレーズ集

以下のような言葉が事後に出た時点で、不可知境界は事前に固定されておらず、責任は蒸発しています。

「当時は合理的だった」
「想定外だった」
「総合的に判断した」
「ベストエフォートでやった」
「結果論ではそう言えるが……」
「データが揃っていれば違ったはずだ」
「確率的には妥当だった」

これらが出たとき、そこには境界ではなく、事後の書き換え（Ghost）が存在しています。

9. 何が変わるのか：不可知境界がもたらす3つの効能

言い訳の増殖停止： 事前に「ここはわからない」と固定しているため、事後の言い訳が封じられる。
責任範囲の確定： 「どこまでが責任か」が、判断を下す瞬間に同期される。
改善の再現性： 「境界の内側（既知）」が何であったかが記録されるため、同じ条件で検証が可能になる。

10. 実装への接続：責任をシステム化する理論

不可知境界は、実務において以下のロジックを成立させるための起点です。

有限閉包： 説明や条件が無限に増殖（Ghost化）するのを閉じる。
Post-hoc Impossibility（事後書き換え不能性）： 事故が起きた後に境界を引き直すことを物理的・制度的に禁止する。
ADIC/$\Sigma1$：境界の内側にある「固定されたログ」だけを証拠として扱う。

11. 実践フォーマット：不可知境界の最小構成

実務でそのまま使える最小テンプレです。これを埋め、記録に残すことが、責任を成立させる実務上の「封印」となります。

項目	内容
内側（確定できる事実）	A, B, C ...（現在のデータ、前提、ロジック、採用基準・閾値）
境界（判断前に埋められない空白）	X (例：未知の環境因子、ユーザー行動)
禁止（後付け説明の禁止事項）	「想定外」「合理的だった」という言葉でXを埋めない
引受（ズレた場合の取り扱い）	ズレはX由来として受け入れ、A〜Cの不備以外は言い訳しない。Xを選択した判断そのものを責任として負う。
記録（物理的な証拠）	入力・前提・出力・時刻・責任者署名（ハッシュ化・改ざん不能なログ保存）