製薬AIはなぜ本番導入で止まるのか（ADIC実用シリーズ 製薬編①）
- kanna qed
- 4月8日
- 読了時間: 5分
ADICで責任と証拠を固定する
製薬企業がAIの実証実験を終えたとき、最初の壁が現れる。「この結果を本番運用に使っていいか」という問いに、誰も明確に答えられないという壁だ。
PoC段階では精度指標が示される。AUCが0.92だ、感度が85%だ。しかし申請や出荷判定に組み込む段階になると、担当者は立ち止まる。「このAIが間違えたとき、誰が何を記録し、誰が承認していたのか」「薬事審査や査察対応の場面で根拠を示せるか」という問いが、導入の足を止める。
これは特定企業の慎重さではない。製薬業界全体が直面している構造問題だ。AIの精度と、AIを使った判断の記録・承認責任は、まったく別の話である。この区別を正確に理解しないまま進めると、後から説明負荷が急増する。
【対象成果物】この記事が扱う記録単位
本記事で扱うのは、以下の最小証跡セットだ。
判断記録：AI出力を根拠に誰がどの判断を下したかの時系列記録
承認記録：誰がその判断を承認したか、承認条件は何だったか
変更履歴：どの時点のモデルのどのバージョンが判断に使われたか
停止履歴：停止条件が発動した事実と理由、切り替え後の処理記録
これら4つが実務上の最小証跡セットとなる。証跡の存在だけでなく、4つが互いに照合可能な形で結び付いていることが重要になる。
本質的な問題：「精度が高い」と「使える」の間にある溝
製薬企業でAI導入が止まる理由は大きく三つに整理できる。
第一に、判断の役割分担が記録上で分離されていないこと。AI出力の生成者、レビュアー、最終承認者、記録保全者の役割が曖昧なままだと、薬事審査や査察対応の場面で「誰が何を確認したのか」という問いへの回答が難しくなる。
第二に、判断の条件を後から再確認できないこと。GMP環境では、製造時の判断は記録として残り、監査の際に照合可能でなければならない。「あのとき、AIがこう出力したからこう判断した」という条件が後から取り出せない場合、内部監査でも説明が難しくなる。
第三に、モデルの変更管理が定義されていないこと。どの時点のモデルがどの判断に使われたかが追跡できないと、変更管理の議論が成立しない。バリデーション済みのシステムが、いつの間にか異なるモデルを使っていた場合、GMP変更管理の論点化につながりやすい。
なぜ「事後説明」では説明負荷が下がらないのか
多くの企業が試みるのは、AIの判断を事後に人間が確認・承認する仕組みだ。これ自体は正しい方向性だが、「確認・承認」の記録が十分でないと問題が残る。
例えば、逸脱検知AIがバッチの異常を検出したとする。担当者がその出力を見て「問題なし」と判断してリリースしたとき、そのワークフローに何が記録されているか。AIが出した根拠スコア、担当者が確認した時刻、どの版のモデルが動いていたか——これらが記録として残っていないと、「確認した」という事実の照合が難しくなる。
QA内部監査や査察対応では、結果だけでなくプロセスと記録が確認される。承認後の査察で「このリリース判断の根拠記録を見せてほしい」と言われたとき、担当者が口頭で説明するだけでは負荷が高くなる。文書化された記録の連鎖が、事後説明を補完する。事後説明は参考情報であり、記録そのものに代わるものではない。
ADICで何を固定するのか
ADICが解決しようとするのは、AIの精度ではない。AIを使った判断が「記録として照合可能な状態になっているか」という問題だ。
ADICは規制判断そのものを代替するものではない。ADICは、判断に使われた条件・記録・変更履歴を、監査・照合しやすい形で固定する実装基盤である。
具体的には、以下の四要素を固定する。
判断・承認・記録・変更管理の担当境界を固定する。AI出力を生成する役割と、その出力を根拠に判断を下す役割、その判断を承認する役割、記録を保全する役割を分離し、各役割が誰に帰属するかを記録に残す。
停止条件を固定する。AIがどの条件のときにその出力を使った判断を停止すべきかを事前定義する。事前定義外入力の検出、バージョン不一致の検出、承認未完了状態の検出——これらを口頭ルールではなくシステムに固定する。
監査証跡を連鎖させる。AIが何を根拠に何を出力したか、担当者がどの出力を根拠にどの判断をしたかを、タイムスタンプ付きで相互に照合可能な形で記録する。
外部検証に必要な条件を固定する。第三者検証に必要な入力仕様、モデル版、実行環境、パラメータ条件を固定し、再実行可能性を高める。
製薬実務での具体的な使いどころ
ADICの実装が最も意味を持つ場面は三つある。
出荷判定では、品質試験の結果をAIが解析して逸脱リスクを評価する場合、バッチ判定記録に「このモデルのこの版がこの入力条件でこのスコアを出し、レビュアーAが確認し、承認者Bが承認した」という連鎖が残っていることが重要になる。GMP査察では、バッチ判断時点のモデル版と承認記録の結び付きが論点化しやすい。ADICはここで、モデル版・入力仕様・判断記録・確認者記録をバッチ単位で結び付ける。
臨床試験の組み入れ・除外判定では、薬事審査ではSAP記載内容と実行実装の一致が論点になる。プロトコルに定義された適格基準とAIの判定ロジックが対照可能な形で固定されていないと、後から照合が難しくなる。
申請前解析では、統計解析計画書（SAP）に記載された解析をAIが実行する場合、SAPの内容と実行時の実装が照合可能な形で残っていることが求められやすい。実行後に「解析方法を差し替えた」「モデルを変更した」という事実が記録なく発生していると、追加照会の対象になりやすい。
まとめ
製薬AIが本番導入で止まる根本原因は、精度不足ではなく、判断・承認・記録・変更管理の担当境界が固定されていないことにある。
AIが精度の高い出力を出せても、その出力を使った判断が「誰の判断か」「何を根拠にしたか」「その記録は後から照合できるか」という問いに対応できなければ、薬事審査でも査察対応でも説明負荷が高くなる。
ADICは、AIそのものを賢くするツールではない。AIを使った判断を、規制実務の場面で説明しやすい証跡構造に整えるための実装基盤である。製薬企業がAIを実用化段階に進めるために必要なのは、まずこの区別を明確にすることだ。
── GhostDrift Research より ──
GhostDrift Researchが問い続けているのは、「AIの出力はどこまで正確か」ではなく、「AIを使った判断は、誰が・何を・どの記録で・どの条件なら止めるかが固定されているか」である。製薬業界はその問いに最も直接的に向き合わなければならない産業の一つだ。
コメント