医療AIを「危険だから使わない」から「証明できるから使う」へ--プライバシーアシュアランスの役割とサイバーアシュアランスの拡張

kanna qed
7月23日
読了時間: 8分

公的ガイドラインが求める管理と、プライバシーアシュアランスが埋める「実装の空白」

医療現場では、診療記録の要約、退院サマリーの作成支援、問い合わせの分類、文書の確認など、AIを利用できる場面が急速に広がっています。

しかし、患者情報を外部のAIサービスで処理する場合、「氏名を消した」「患者番号を削除した」という説明だけで、医療機関の正式運用へ進めるでしょうか。

私たちは、それだけでは足りないと考えています。必要なのは、患者情報を加工したという事実だけではありません。検証されたデータだけが、決められた条件で、決められた送信先へ実際に送られたこと。そして、AIから返された結果も、検証を通過した場合にのみ医療機関の正式な業務へ採用されたこと。この一連の処理を、後から確認できる形で証明する必要があります。

▼サイバーアシュアランスのプレスリリースはこちらhttps://prtimes.jp/main/html/rd/p/000000003.000182721.html

1. 匿名化（加工）と、実際の送信は「別の処理」である

例えば、医療機関が診療記録から氏名や患者番号を削除し、外部AIへ送信して要約文を作成するとします。送信前のデータが適切に加工されていたとしても、検証が終わった後の通信処理（SDKや通信ライブラリの内部処理等）の過程で、メールアドレス等の情報が追加されたらどうでしょうか。検証したデータとは異なる内容が、実際の通信処理へ渡されてしまうリスクが存在します。

また、送信先やAIサービスの設定が変更され、想定していない環境へ送られた場合もあります。一度だけ認めた送信許可が、別の患者情報の送信に再利用される可能性もあります。このとき、「匿名化処理を行った」という記録は残っていても、匿名化された内容が実際に送信されたことまでは証明できません。

匿名化は、データに対して行う処理です。一方で必要なのは、その処理結果と「実際の外部送信」を、後から検証可能な証跡によって結び付けることです。

2. 医療AIでは、外へ出す側だけを守っても足りない

もう一つ見落とされやすいのが、AIから返される「出力」の扱いです。

送信する情報を適切に加工できたとしても、AIの出力の中に、患者を識別できる情報が再び現れる（再露出する）可能性があります。また、AIが生成した文章に、事実と異なる記載、想定していない自由記述、業務システムでは扱えない形式が含まれることもあります。その出力が検査されないまま電子カルテや患者対応システムへ登録されれば、AIが生成した候補が、そのまま医療機関の正式な情報になってしまいます。

したがって医療AIでは、二つの境界を管理する必要があります。

医療機関からAIへ情報を出す境界
AIから医療機関の正式業務へ結果を戻す境界

プライバシー保護を正式運用として成立させるためには、この双方の境界管理が必要です。

3. 公的ガイドラインが求める要請

この問題意識は、単なる理念ではありません。行政機関および国際機関が公表しているガイドラインや指針においても、これらの管理要請が明記されています。

① 個人情報保護委員会：「生成AIサービスの利用に関する注意喚起」[1]

個人情報保護委員会（PPC）の注意喚起では、個人情報を含むプロンプトを入力する場合、利用目的を達成するために必要な範囲内であることを事前に十分確認することを求めています。さらに、本人の同意なく入力した個人データが回答生成以外の目的で扱われることがないよう、AI事業者がそのデータを機械学習等に利用しないことなどを事前に確認することを明記しています。

② 厚生労働省：「医療情報システムの安全管理に関するガイドライン」第7.0版 [2]

厚生労働省の第7.0版では、医療情報を持ち出せるネットワークサービスを、企画管理者が承認したものに限定し、必要に応じて接続制御を行うことが示されています。また、ネットワークサービスの設定や誤操作による漏えいへの対応と、持ち出し状況の定期的なレビューも求めています。さらに、外部保存を委託した医療情報の破棄については、適切に破棄されたことを確認できる証跡を委託先に求めることが示されています。クラウドサービス上で破棄の証明が困難な場合にも、破棄の手順や実際に行った処理に関する証跡を求めるという考え方が示されている点は重要です。

③ 仮名加工情報および委託・安全管理に関する要請 [3], [4]

厚生労働省の「医療デジタルデータのAI研究開発等への利活用に係るガイドライン」[3] 等では、医療情報を仮名加工した場合であっても、元の医療情報と容易に照合できる医療機関側においては、その情報が引き続き個人情報に該当し得ると整理しています。加工時に削除した氏名等や加工方法の情報についても、取扱者の権限明確化や適切な管理を求めています。また、「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」[4] が示す通り、外部AIの利用が個人データの取扱いの委託に該当する場合、医療機関には委託先への必要かつ適切な監督が求められます。その要請を実効化するためにも、利用規約の確認だけでなく、実際の送信条件や処理状況を医療機関側で確認できる仕組みが重要になります。

④ AI出力のリスクと運用後監査に関する国際的要請 [5]

世界保健機関（WHO）の大規模マルチモーダルモデル（LMM）に関する倫理・ガバナンス指針 [5] では、AI出力の不正確さ、偏り、過度な依存（オートメーション・バイアス）やサイバーリスクを指摘するとともに、大規模導入時におけるデータ保護を含む独立した事後監査や影響評価の導入を勧告しています。

4. ガイドラインの要請と「実装の空白」を埋める技術

公的ガイドラインはこれらの管理要件を示していますが、検証したデータ、設定及び送信先と、その一回の実送信をどのような方式で不可分に結び付けるかまでは規定していません。

一方で、契約書や画面上で確認した内容が、「まさにその一回ごとの通信処理」においても維持されているかを検証し、後から確認可能な証拠を残す具体的な方式は、ガイドラインでは規定されていません。ここに、公的ガイドラインが示す管理要件を、実際の送信処理へ接続する「実装の空白」があります。

今回特許出願したプライバシーアシュアランス技術は、この実装上の空白を次のような流れで埋めます。

検証内容と実送信内容の一致：データ加工後の静的な検証にとどまらず、実際に外部へ送られる送信要求の内容や設定を最終確認・固定し、意図しないデータの追加や設定変更がないかを照合します。
一回限りの送信認可：検証された条件と実送信の条件が完全一致することを前提に一回限りの認可を行い、同じ認可の再使用や、認可対象と異なる送信要求の実行を拒否します。
送信結果不明状態の独立管理：通信障害等で送信成否が不明な場合、タイムアウトのみで安易に予約を解放せず、信頼できる証拠が揃うまで保留することで責任の蒸発を防ぎます。
AI出力の正式採用ゲート：外部AIからの出力に対し、個人情報の再露出や未解決の確認義務を独立検証し、合格した場合にのみ電子カルテ等の正式な業務システムへの書き込み（状態変更）を許可します。

【技術解説：特許構成の概要】 本技術では、通信路暗号化（TLS）直前の「最終アプリケーション層送信要求」を封印・固定して実送信開示情報を抽出・検証し、開示量を決定します。この開示量と送信認可、プライバシー予算の予約を「原子的な条件付き更新」として不可分に処理することで、重複消費や不正な流用を防止します。

5. AIの医学的な正しさとは分けて考える

プライバシーアシュアランスは、AIが出した診断候補や治療提案の医学的妥当性そのものを保証する技術ではありません。医学的な判断については、根拠となる検査結果、画像、観測時点、判断条件、医師による確認など、別の検証が必要です。

一方で、いかに医学的に優れたAIであっても、患者情報の外部送信と出力採用を適切にシステム管理できなければ、医療機関が正式運用へ採用することは困難です。

「AIの性能」と、「AIを安全に業務へ接続できること」は別の問題です。 医療AIを社会実装するには、この両方を成立させなければなりません。

6. 医療AIを止めないための「責任OS」

プライバシー保護というと、情報を外へ出さないための「制限」として捉えられがちです。しかし、私たちが目指しているのは、AI利用を止めることではありません。

どの情報なら、どの条件で、どのAIへ送ることができるのか。
返された結果を、どの条件で医療機関の正式な情報として採用できるのか。

それを事前に定義し、実行時に検証し、条件が成立した場合にのみ処理を進める。これにより、「危険だから使わない」から、「条件を満たしたことが証明できるから使える」へ進むことができます。

患者情報を扱ってよい条件を定め、その条件が実際の一回一回の処理で守られたことを証明できること。

今回のプライバシーアシュアランスは、ADICサイバーアシュアランスで構築してきた「正当な証拠のない重要な実行を通さない」という原理を、患者情報の外部送信とAI出力の正式採用というプライバシー領域へ拡張・具体化したものです。

私たちは、このプライバシーアシュアランスに関する技術について、特許出願を行いました（特願2026-174858）。

本技術は、AIが生成した結果を医療機関が正式運用で採用するために必要な条件のうち、患者情報の外部送信とAI出力の採用を検証可能にする「責任OS（Responsibility OS）」の一つの実装です。

参考文献（References）

[1] 個人情報保護委員会. 生成AIサービスの利用に関する注意喚起. 2023年6月.

[2] 厚生労働省. 医療情報システムの安全管理に関するガイドライン第7.0版. 2026年6月.

[3] 厚生労働省. 医療デジタルデータのAI研究開発等への利活用に係るガイドライン. 2024年3月31日.

[4] 個人情報保護委員会, 厚生労働省. 医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス. 2026年4月改定.

[5] World Health Organization. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. WHO Guidance, 2024.