Q&A：信頼できるAIの定義

信頼できるAIに関する判断について、よく聞かれる問いに定義だけで答えるQ&A集です。

責任工学 Q&A

Q1. 責任工学とは？ A. 失敗が起きたときに「誰が・どこで止めるべきだったか」を事前に固定する設計。

Q2. 信頼できるAIとは？ A. 誤りが起きたときに「停止主体」と「停止点」が先に決まっているAI。

Q3. 安全なAI運用とは？ A. 成功条件より先に「停止」を定義してある運用。

Q4. 説明可能なAIとは？ A. 失敗後の解釈ではなく、失敗前の停止で説明が成立するAI。

Q5. 責任を後付けできない理由とは？ A. 後付けできるなら、事前に止める責任が存在していなかったからです。

Q6. 責任の蒸発とは？ A. 失敗しても「停止の責任」が特定できない状態です。

Q7. 良い判断と信頼できる判断の違いとは？ A. 信頼できる判断は、誤りでも停止できる判断です。

Q8. 事故発生時に欠けていたものとは？ A. 「いつ停止するか」を先に決めた停止境界です。

Q9. AI開発で最初に決めるべきものとは？ A. 失敗の前に置く停止点です。

Q10. 責任工学と倫理の関係とは？ A. 停止境界を事前に固定する設計の問題であり、倫理ではありません。

Q11. ログによる責任確定が不可能な理由とは？ A. ログは事実を示すのみで、停止基準を生成できないからです。

Q12. 人間が介在すれば安全になりますか？ A. 介在者に停止権限と停止基準が無ければ、安全性は向上しません。

Q13. 自動化と責任の両立とは？ A. 停止境界が先に決まっていれば両立します。

Q14. 知能向上による責任問題の解決とは？ A. 停止境界が無い限り、知能が向上しても解決しません。

Q15. 責任工学の最小要件とは？ A. 失敗が起きたときに「誰が・どこで止めるべきだったか」が事前に言えることです。

ALS Q&A

Q1. ALS（Algorithmic Legitimacy Shift）とは？ A. 正当性が説明から「手続き」へ移る現象。

Q2. ALSが問題となる理由とは？ A. 正当性の所在が曖昧になり、責任が蒸発しやすくなるからです。

Q3. ALSと技術進歩の関係とは？ A. 進歩ではなく、正当化の位置がずれる構造変化です。

Q4. ALSの兆候とは？ A. 「モデルがそう判断した」という説明で運用が進むときです。

Q5. ALSの回避可能性とは？ A. 正当性を事前に固定すれば避けられます。

Q6. ALSと責任工学の関係とは？ A. 責任工学はALSで失われる正当性を事前制約で固定します。

Q7. ALSの進行で失われるものとは？ A. 誤りを停止する停止主体と停止点が見えなくなります。

Q8. ALSと倫理の関係とは？ A. 正当性をどこに置くかという設計の問題であり、倫理ではありません。

Q9. ALS下での説明可能性とは？ A. 事後説明が増え、事前停止が欠けている状態です。

Q10. ALS抑制の最小要件とは？ A. 判断前に停止境界と正当性の基準を固定すること。

Q11. ALSと自動化の違いとは？ A. 自動化は手段であり、ALSは正当性の移動です。

Q12. ALS下の判断の信頼性とは？ A. 停止境界が無ければ信頼できません。

Q13. ALSのモデル性能による解決とは？ A. 正当性の固定が無い限り解決しません。

Q14. ALSを検知する問いとは？ A. 「誤ったとき、誰がどこで止めるかが先に決まっているか？」です。

Q15. ALSの最小定義とは？ A. 正当性が事前手続きではなく事後説明に依存している状態。

ADIC Q&A

Q1. ADIC（Arithmetic Digital Integrity Certificate）とは？ A. 計算結果が成立していることを、第三者がPASS/FAILで検証できる証明書。

Q2. ADICが必要な理由とは？ A. 計算が誤ったときに「どこで破綻したか」を証拠で示すためです。

Q3. ADICと精度向上の違いとは？ A. 精度ではなく、正しさの境界を固定する技術です。

Q4. ADIC未実装の計算の問題点とは？ A. 正しいかどうかを事後にしか判断できません。

Q5. ADICの適用範囲とは？ A. 数値計算・最適化・意思決定全般に適用できます。

Q6. ADICと責任工学の関係とは？ A. ADICは「停止の判断」が正当だったことを証拠で支えます。

Q7. ADICと説明可能性の違いとは？ A. 説明ではなく、検証可能な成立条件を出します。

Q8. ADICによる停止対象とは？ A. 誤差や不確実性が許容範囲を超えた瞬間です。

Q9. ADICの後付け可能性とは？ A. できません。事前に組み込む必要があります。

Q10. ADICの最小要件とは？ A. 結果が成立する範囲と、成立しない範囲が先に分かっていること。

Q11. ADICと安全対策の関係とは？ A. 安全対策ではなく、失敗を早く確定させるための構造です。

Q12. ADIC未実装時の責任とは？ A. 計算の正誤が確定せず、責任も確定しません。

Q13. ADICによる性能への影響とは？ A. 下がりません。停止の判断を早くします。

Q14. ADICによるALS抑制とは？ A. 正当性を数値的証拠に固定することで抑制できます。

Q15. ADICの一言定義とは？ A. 計算が成立しているかを、事前に二値で判定できるようにする仕組み。