All Posts

製薬AIのリスクを語るとき、モデルの精度やデータ品質が話題になることが多い。しかし実務担当者が実際に直面する最大のリスクは別のところにある。未承認変更だ。 未承認変更とは、変更管理プロセスを経ずにモデルが変更されること、あるいは変更として認識されないままモデルの動作が変化することだ。意図的なものから、無意識に行われるものまでさまざまある。しかしどちらにしても、QA内部監査や査察対応の場面では「変更管理がされていたか」という論点化につながりやすい。 これはAI固有の問題ではないが、AIが関与することで問題が見えにくくなる。人手で計算される統計解析なら、変更は文書の差し替えとして痕跡が残ることが多い。しかしAIモデルの「再学習」「パラメータ調整」「バージョン切り替え」は、技術的には記録なく行える。この点が製薬AIにおける最大の変更管理上のリスクだ。 【対象成果物】この記事が扱う記録単位 本記事で扱うのは、変更管理に関する以下の成果物セットだ。 変更要求記録：変更の種類（バグ修正・性能改善・適用範囲拡張）、変更理由、変更前後の仕様差分...

製造現場での品質判断は、製薬企業の中で最も厳格な規制管理下に置かれている領域だ。GMP（適正製造規範）は、製造プロセスの全段階を文書化し、逸脱が発生した場合は調査と是正措置を義務付ける。 AIを品質管理に活用しようとする動きは活発だ。製造ラインの異常検知、原材料試験の結果解析、製品の放出判断支援——こうした用途でのAI活用は、品質保証業務の効率化と精度向上を同時に実現できる可能性がある。 しかし品質判断にAIを組み込む際には、精度以上に重要な問いがある。「このAIの判断条件を、GMP品質記録の観点で後から照合できるか」という問いだ。AIが「このバッチは問題なし」と言ったとき——誰が確認し、いつ確認し、何を見て承認し、バッチ記録にどう結び付くか——その記録が整っているか。 【対象成果物】この記事が扱う記録単位 本記事で扱うのは、製造品質管理に関する以下の成果物セットだ。 逸脱記録：AIが逸脱を検出した条件、検出時刻、使用モデルの版、入力パラメータ値を含む記録 放出判断記録：AIの出力を確認した者（実行者）、確認内容、承認者、承認時刻、手動介入の有無

臨床試験でAIを使う機会は増えている。スクリーニング、有効性判定、安全シグナル検出、中間解析——どの場面でもAIが入り込みつつある。しかし「使える」という判断と「試験に組み込める」という判断の間には、明確な差がある。 試験に組み込むとは、プロトコルに記載し、IRBの審査を受け、申請時に記録として提出できる状態で、査察対応にも回答できることを意味する。AIの性能評価と、試験への正式組み込みはまったく別のプロセスだ。 この差を埋めるために必要なのは、何を固定すべきかという設計方針だ。闇雲に記録を増やしても意味はない。申請と査察対応で論点化しやすい「固定すべき三要素」——組み入れ条件、判定条件、停止条件——を明確にしてから始める必要がある。 ▶ADICはこちら 【対象成果物】この記事が扱う記録単位 本記事で扱うのは、臨床試験AI組み込みに関する以下の成果物セットだ。 組み入れ条件表：プロトコルの適格基準とAIの判定ロジックの対応を照合可能な形で記録したもの 判定閾値表：有効性・安全性評価に使う閾値の定義と版管理記録 停止記録：停止条件が発動した事実、理

バイオマーカーを使った患者選択は、精密医療の核心にある。そしてその選択が「科学的に正しいかどうか」だけでなく、「申請時に根拠を示しやすいかどうか」によっても評価される時代になっている。 例えば、ある腫瘍マーカーの発現量に基づいて患者を高リスク群と低リスク群に分類するAIがある。このAIが試験中に動いていたとき、「どの閾値で分類したか」「その閾値はプロトコルに事前定義されていたか」「途中で変更はなかったか」の三点は、申請と査察対応で論点化しやすい。 この三点に対応できる記録がないと、バイオマーカー解析の結果は申請根拠として扱いにくくなる。精度がどれほど高くても、判定条件の固定記録がなければ、審査担当者は結果の採用を慎重に判断せざるを得ない。 【対象成果物】この記事が扱う記録単位 本記事で扱うのは、バイオマーカー解析に関する以下の成果物セットだ。 プロトコル定義記録：バイオマーカーの定義、分類閾値、適用範囲がプロトコル確定時点で記録されたもの 閾値記録：閾値の版管理情報と、変更があった場合の変更理由・影響件数 実行ログ：各患者への閾値適用時のモデル版

新薬申請のデータパッケージを準備する段階になったとき、統計担当者はある種の緊張に直面する。解析計画書に書いたことと、実際に動かした解析プログラムが本当に照合可能な形で残っているかという緊張だ。 申請後に審査担当者から「解析の再実行条件を確認したい」と言われたとき、同じ入力データに同じプログラムを流せば同じ結果が出るか。プログラムのバージョンは固定されているか。ライブラリの依存関係は記録されているか。これらに対応できない場合、追加照会や再解析要求につながりやすい。 AIが解析に使われるようになった今、この問題はさらに複雑になっている。機械学習モデルを解析に組み込む場合、モデルのバージョン、学習データの仕様、ハイパーパラメータの設定まで、固定すべき要素が格段に増える。 ▶ADICはこちら 【対象成果物】この記事が扱う記録単位 本記事で扱うのは、提出前解析に関する以下の成果物セットだ。 SAP対応表：SAPに記載された解析項目と、実装上の対応関係を照合可能な形で記録したもの 実行ログ：解析実行時のモデル版、乱数シード、依存ライブラリのバージョン、入力デ

ADICで責任と証拠を固定する 製薬企業がAIの実証実験を終えたとき、最初の壁が現れる。「この結果を本番運用に使っていいか」という問いに、誰も明確に答えられないという壁だ。 PoC段階では精度指標が示される。AUCが0.92だ、感度が85%だ。しかし申請や出荷判定に組み込む段階になると、担当者は立ち止まる。「このAIが間違えたとき、誰が何を記録し、誰が承認していたのか」「薬事審査や査察対応の場面で根拠を示せるか」という問いが、導入の足を止める。 これは特定企業の慎重さではない。製薬業界全体が直面している構造問題だ。AIの精度と、AIを使った判断の記録・承認責任は、まったく別の話である。この区別を正確に理解しないまま進めると、後から説明負荷が急増する。 ▶ADIC詳細はこちら 【対象成果物】この記事が扱う記録単位 本記事で扱うのは、以下の最小証跡セットだ。 判断記録：AI出力を根拠に誰がどの判断を下したかの時系列記録 承認記録：誰がその判断を承認したか、承認条件は何だったか 変更履歴：どの時点のモデルのどのバージョンが判断に使われたか...

GhostDrift数理研究所は、このたび電子書籍『AIガバナンス教科書』をZennにて公開しました。 本書は、これまでYouTubeで公開してきた動画シリーズ「AIガバナンス教科書」の原稿を、そのまま収録したものです。動画で継続して発信してきた内容を、文章として通して読める形に整理し、一冊の電子書籍としてまとめました。 AIガバナンスは、倫理や印象論として語られがちです。しかし、実際に問われるのは、AIをどこまで通し、どこで止め、誰が何に責任を負い、その判断を第三者がどう検証できるのか、という運用条件です。GhostDrift数理研究所は、この問題を理念ではなく、停止条件・責任分界・監査証拠・検証可能性の事前固定として捉えてきました。 本書もまた、その立場に基づいて構成されています。ブラックボックス、安全性、透明性、プライバシー、バイアス、説明責任、監査、法規制、標準化、責任工学、ADIC、後付け不能性といった論点を、ばらばらの話題としてではなく、一つの連続した構造として整理しています。 また、本書には「はじめに」を収録しており、ここではYou

The final chapter (Episodes 18–25) of the video series AI Governance Textbook , now available on YouTube, shows that the central problem of AI governance is not ideals or performance, but the Vacuum of Accountability created by the separation of authority and capability. This chapter explains why AI ethics and Responsible AI cannot, by themselves, protect post-incident accountability, and why responsibility engineering centered on ADIC becomes necessary. ▼ Operated by: AI Acc

YouTubeにて公開中の動画シリーズ『AIガバナンス教科書』最終章（第18〜25回）が示す通り、AIガバナンスの最終的な課題は、理念や性能の追求ではありません。それは「権限と能力が分離」することによって必然的に生じる「責任の真空」を直視し、ADIC（通過条件の固定）などの「責任工学」によって、事後的な改ざんが不可能な証拠構造（後付け不能性）を設計することにあります。 ▼ 運営母体：AI説明責任プロジェクト（GhostDrift数理研究所） https://www.ghostdriftresearch.com/ai-accountability-project 📌 このシリーズでわかること ・AI倫理や「責任あるAI」の理念だけでは、事故後の責任が構造的に守れない理由 ・権限と能力が分離することで生じる「責任の真空」と「責任の蒸発」のメカニズム ・真空を前提とし、責任を事前の境界設計として守り抜く「責任工学」の概念 ・AIガバナンスの最上位概念である「後付け不能性」と、それを実装するADICの構造 🎯 対象者 AI導入の意思決定を担う経営層、

A Paradigm Shift from Performance Evaluation to Predefining Deployment Conditions As shown in the latter half (Episodes 9-17) of the video series "The AI Governance Textbook" currently available on YouTube, the essence of AI governance lies not in evaluating whether AI is "smart," but in "predefining conditions that enable real-world deployment." We explain the transition from the era of performance evaluation to the phase of designing responsibility and operational condition

YouTubeにて公開中の動画シリーズ『AIガバナンス教科書』後半戦（第9〜17回）が示す通り、AIガバナンスの本質は、AIを「賢いかどうか」で評価することではなく、AIを「導入可能な条件へ事前固定すること」にあります。性能評価の時代から、責任と運用条件を設計するフェーズへの移行を解説します。 このシリーズでわかること ・事故防止（リスク管理）と判断根拠の固定（説明責任）の構造的な違い ・「理解できること（説明可能性）」と「第三者が検証できること（説明責任）」の明確な線引き ・法規制や標準化が実務に求める、監査に耐えうる「責任の最小構造」 対象者 AI導入の意思決定を担う経営層、実運用と監査の設計を担うエンジニア・リサーチャー・法務担当者。精度向上ではなく、組織として責任を引き受け、本番導入の壁を突破するための具体要件を求める方。 『AIガバナンス教科書』後半戦（第9〜17回）一覧 各回は以下から視聴できます。 第9回：AIリスクマネジメントとは何か？リスク管理と説明責任の構造的な違いと、検証可能な証拠構造の必要性を解説します。 🎥...

As demonstrated in the YouTube video series "AI Governance Textbook" (all 8 episodes released), AI governance is not about ethics; it is about the pre-fixing of procedures for operations, auditing, stopping, and responsibility. What You Will Learn in This Series The fundamental structure of AI problems such as the black box and bias. The limitations of existing approaches like log retention and visualization. Next-generation operations that pre-implement stopping conditions a

YouTubeにて全編公開した動画シリーズ『AIガバナンス教科書』（全8回）が示す通り、AIガバナンスは倫理ではなく、運用・監査・停止・責任の手続きの事前固定です。 このシリーズでわかること ブラックボックスやバイアスのAI問題の根本構造 ログ保存や可視化といった既存アプローチの限界 停止条件や責任分界をシステムへ事前実装する次世代運用 ▼運営母体　AI説明責任プロジェクト https://www.ghostdriftresearch.com/ai-accountability-project 対象者 AI開発・運用に関わるエンジニア、リサーチャー、導入・運用担当者。 倫理論ではなく、実運用と監査に耐える堅牢なAIシステムを構築する具体条件。 『AIガバナンス教科書』全8回一覧 各回は以下から視聴できます。 第1回：AIブラックボックス問題とは何か？ 説明可能性の課題を運用上の構造的欠陥という一つの原因から解き明かします。 🎥 https://youtube.com/watch?v=rZzQRPYypx0 第2回：AI安全性はなぜ失敗するのか

When operating AI systems, the most insidious issue is not "accuracy." The true vulnerability lies in the ambiguity of decision-making conditions after an incident occurs, which creates room for endless post-hoc rationalization. This article examines how the ADIC (Algorithmic Drift Immunization Certificate) implementation published by GhostDrift—coupled with the machine-checked verification of its core logic in Lean 4—provides a structural solution to this challenge. Why AI D

AIシステムを運用する上で、本当に厄介なのは「精度」の問題ではありません。 問題が起きたあとになって、「そのときどういう条件で判断したのか」が曖昧になり、「あとからいくらでも言い訳ができてしまう」ことこそが最大の脆弱です。 この記事では、GhostDriftが公開しているADIC（Algorithmic Drift Immunization Certificate）実装と、その中核ロジックに対するLean 4での機械検証が、この問題にどう終止符を打つのかを解説します。 なぜAIの判定はあとから言い訳できるのか 従来の「監査ログ」がいかに脆弱であるかは、次の3点に集約されます。 当時の条件が固定されていない ログはあっても、その判定を下した「プロンプトや閾値のバージョン」が完全に紐付いていない。 あとから閾値を変えても見えにくい 事後的に「この閾値ならOKになる」とシステム側で操作しても、外部からは検知できない。 第三者が同じ判定を再現できない 同じ入力データを用意しても、ベンダー内部の環境でなければ同じ結果になる保証がない。 ADICの公開ページ

“ADIC is not just an explainability tool. It is an accountability architecture designed to prevent responsibility from fragmenting after an AI decision is made.” This principle is precisely why ADIC stands as one of the strongest architectures in the current AI governance landscape, making it structurally difficult to replace with alternative technologies. While many organizations rush to build AI governance by implementing isolated features — such as explanation tools, audit

「ADICは、AIを説明する技術ではない。AI判断に対する責任を、あとから分裂させないための統合技術である。」 これが、現行のAIガバナンス領域においてADICが最強格の武器であり、他技術での代替が極めて困難である最大の理由です。 多くの企業や組織がAIガバナンスの構築を急ぐ中、「説明ツール」「監査ログ」「停止ルール」といった機能単位での実装が進んでいます。しかし、ADICの真の強さは、これらの機能を「全部持っていること」にはありません。 それらが同じ判断について、矛盾なく一貫して動く こと。ここが本質です。 なぜ、既存技術の寄せ集めではADICに到達できないのか。その核心について解説します。 ▶ADICの詳細はこちら 1. ガバナンス部品の「つなぎ目」で責任は切れる 既存の技術でも、説明ツールを作り、監査ログを残し、停止ルールを設けることは可能です。しかし、通常これらは「別部品」として開発・導入されます。 一般的なAIガバナンスは、AIモデル本体の後ろに「説明機能」を置き、さらにその後ろに「監査ログ」を取り付け、全く別のシステムとして「停止フロ

1. Introduction GhostDrift Research Inc. has released "ADIC" (Arithmetic Digital Integrity Certificate), a comprehensive AI audit and verification framework. In high-liability sectors such as healthcare and critical infrastructure, merely improving AI inference accuracy is no longer sufficient. It is now imperative to anchor the precise conditions under which autonomous decisions are made and operational limits are enforced, all while ensuring absolute third-party reproducibi

1. はじめに 株式会社GhostDrift数理研究所は、AI監査・検証基盤「ADIC（Arithmetic Digital Integrity Certificate）」を公開しました。医療やインフラなどの高責任領域においては、もはやAIの精度を高めるだけでは不十分です。いかなる条件で判断を下し、どこで停止するのかという条件の固定と、第三者による再現可能性が極めて重要になります。ADICは、そのための確固たる監査基盤として機能します。 ▼プレスリリースはこちら https:// drive.google.com/file/d/1skmxJZdY_91gIk7ra1lmWdqHkuHIiZoy/view?usp=sharing 2. なぜAIの“事後説明”だけでは足りないのか AIの社会実装が進む中で、出力結果を後からもっともらしく説明するだけでは、実務上の要求を満たせない場面が増えています。特に医療、物流、インフラ、製造といった高責任領域では、「どの条件でその判断を通したのか」「どこで安全側に倒して止めるべきか」が実務の要となります。...

Today, we published a dedicated page outlining the "Logistics Governance Foundation." In high-responsibility logistics—such as supply chains for pharmaceuticals and goods requiring strict quality assurance—the seamless flow of goods during normal operations is merely a baseline assumption. The true test emerges during an anomaly: can the distribution be instantaneously halted, the impact radius traced, and a reliable transition to a recall operation executed? To achieve this