人工知能: 医療における予測、推論、および「学習の消去」の概念

過去 2 年間、私は規制当局、金融機関、エンジニア、CEO、懐疑的な人々と AI について何百回も会話してきました。常に浮かび上がってくるのは、この分野を取り巻く混乱と曖昧さの多さです。誰もが人工知能について、あたかも一方向に進む 1 つのテクノロジーであるかのように話しますが、現実ははるかに複雑で詳細です。ショーン・カムカーが書いたとおり。

人工知能は予測と推論の交差点です

AI は、2 つの根本的に異なるシステムの合流点を表します。1 つは予測するように設計され、もう 1 つは推論するように設計されています。この違いを理解し、それらを組み合わせる方法を学んだ企業は、AI をモノリシックなツールとして扱う企業よりも大きな利点を持つことになります。

予測型 AI と生成型 AI

予測 AI は長年にわたり、意思決定を舞台裏で静かにサポートしてきました。機械学習モデルは、膨大な量の履歴データ全体からパターンを発見することに優れています。たとえば、クレジット分野では、これらのモデルは膨大な量の履歴データを分析し、何百万もの結果の中から事実上人間のアナリストが発見できないパターンを特定します。返済の可能性、詐欺のリスク、投資ポートフォリオのボラティリティを、数十年前に作成された従来の評価システムよりもはるかに正確に予測します。

生成 AI はまったく異なる機能を実行します。つまり、情報を収集し、曖昧さに対処し、人間の言語でコミュニケーションします。これは、傾向の重要性を説明し、複雑な結果を要約し、戦略的トレードオフを強調し、以前は理解するために専門知識が必要だったシステムを人々が操作するのに役立ちます。その機能は予測のみに限定されません。むしろ、推論と変換 (データを理解可能な概念に変換する) が含まれます。

2 つの違いと組み合わせ: この違いを理解する最も簡単な方法は、次のたとえ話です。機械学習は検査を実行する「診断検査室」を表し、産科 AI は結果を解釈して次のステップを決定するのを助ける「医師」を表します。どちらも他方にとって不可欠ではありません。むしろ、それらは統合されて、より強力で効果的なシステムを作成します。

タスクに適切なタイプの AI を使用する

現在、多くの組織が、本来は実行するように設計されていない役割に生成 AI を導入しようとしているため、この区別は重要です。大規模言語モデルの膨大な機能にもかかわらず、それらは決定論的な予測システムではありません (つまり、数学的精度で安定した正確に定義された結果は得られません)。

汎用の「チャットボット」に、それをサポートする専用の分析インフラストラクチャを使用せずに、財務上または経営上の重要な意思決定を独立して行うよう依頼することは、検査室、健康診断、またはバイタルサインの測定の助けを借りずに、医師に患者の状態の診断を依頼するのと似ています。信頼できる確実なデータが欠如している推論は依然として信頼できません。

一方、説明可能性に欠ける予測システムは、別の種類の問題を引き起こします。私が気づいているのは、組織はますます正確な成果物を生成できるようになっているものの、理解するのが難しく、理解できる人がますます少なくなっているということです。この矛盾が、さまざまな分野での人工知能導入の次の段階の特徴を形作ることになります。

さまざまな分野での応用

たとえば、医療分野では、予測モデルを使用すると、従来のスクリーニング方法と比較して、高リスクの患者を早期に特定できます。しかし、臨床医は依然として、結果を解釈し、治療上の考慮事項を要約し、患者と明確にコミュニケーションできるシステムを必要としています。自動運転車の分野では、人工知能の 1 つの層が常に経路、歩行者、距離、障害物をリアルタイムで監視し、別の層が状況の変化に車両がどのように対応するかを決定します。

このパターンはどこでも繰り返されます。予測インテリジェンスと演繹的インテリジェンス (論理と分析に基づく) の組み合わせです。

予測、推論…そして人間の判断を組み合わせる

融資業務はその最も明らかな例の 1 つです。信用評価プロセスは決定的かつ反復可能でなければなりません。つまり、同じ入力が毎回同じ結果と解釈につ​​ながる必要があります。そうでないと、その決定は監督者や借り手にとって正当化されなくなります。ここで機械学習の力が現れますが、機械学習はこれらの数字の含意とその意味を探る手段を提供しません。

このギャップを埋めるために生成人工知能の役割が生まれます。結果を状況に応じて解釈し、信用ポートフォリオに関する別の仮説シナリオ (「仮定」分析) をテストし、承認決定に対する政策変更の影響をシミュレーションします。このインテリジェンスは、単にローンを評価するだけでなく、貸し手が実際の評価プロセスを処理するシステムの出力を理解するのに役立ちます。この組み合わせは人間の判断の役割を否定するものではありません。むしろ、それはその価値を高めます。これにより、人間は日常的な分析に費やす時間が減り、例外的なケースへの対処、戦略的意思決定、制御および監督タスクの実行に多くの時間を費やすことができます。

最良の結果を達成する組織は、人間を AI システムに置き換えない組織です。むしろ、大規模なパターンを検出する統計モデル、複雑さを実用的な洞察に変換する生成システム、コンテキストを追加して監視と評価の役割を果たす人的要素など、さまざまな形式のインテリジェンスを統合するシステムを構築します。

高度な分析機能

何十年にもわたって、高度な分析能力は主要な世界的機関に集中してきました。これらの機関だけが、大規模な情報処理に必要なインフラストラクチャと専門知識を提供する財源を持っていました。しかし、人工知能はこの現実を変え始めています。最大の利益を得る組織は、完全な自動化を追求する組織ではありません。むしろ、予測、推論、人間の判断を作業システムに組み合わせて、個人の効率を高めるものです。

何年も前に、医師が病気を発見するのに役立つインテリジェント システムをトレーニングするために自分の医療データを使用することに同意した患者を想像してください。したがって、モデルの構築に使用された数千、おそらく数百万の記録には、彼の写真、検査、病歴が含まれていました。その後、彼は考えを変え、同意を撤回してデータを削除するよう求めました。

従来のデータベースでは、解決策は単純に見えます。レコードが削除され、ストーリーは終了します。しかし、システムがすでにそのデータから学習している場合、問題はさらに複雑になります。トレーニング中、モデルはデータベースのように患者の記録を必ずしも保持するわけではなく、抽出したパターンに基づいて内部パラメータが変化します。したがって、元のファイルは削除できますが、統計的効果の一部はアルゴリズムが学習した内容に残ります。

「削除」ボタンだけでは不十分な場合

機械が学習した内容も削除できるのでしょうか？これは、2026 年 7 月 18 日に「Nature Portfolio」の一部であるジャーナル「npj Digital Medicine」に掲載された、「臨床人工知能のガバナンスに必要な機械学習の消去」と題された最近の分析研究で研究者らによって提起された疑問です。

この研究では、「Machine Unlearning」の概念、つまり、完全にゼロから再トレーニングする必要なく、以前にトレーニングされたモデルから特定のデータの影響を除去する試みについて説明しています。

このアイデアが実際に成功すれば、デジタル医療に、これまでアルゴリズム設計の一部ではなかった、学習するだけでなく、忘れる方法を知る能力も追加される可能性があります。

「脱学習」とは何ですか？

人工知能システムのトレーニングには、大量のデータからパターンと統計的関係を抽出し、学習した内容をモデルのパラメーター内に分散してエンコードして、後で分類、予測、または診断のサポートに使用できるようにすることが含まれます。

「学習の削除」は、逆の方向に進むことを試みます。つまり、モデルがすでに学習した後に特定のデータの痕跡を削除します。レコードの削除が要求されるたびに最初から再トレーニングするのではなく、その動作が最初からそのデータでトレーニングされていない仮説モデルにできるだけ近づくようにモデルを変更することが目標です。削除するデータを含まないこの再トレーニングされたモデルは、消去プロセスの有効性が比較される「ゴールド スタンダード」として知られることもあります。

ここでの違いは根本的なものです。 X 線画像や検査結果をデータベースから削除しても、以前にトレーニングされたモデルからその効果が消えるという保証はありません。なぜなら、その影響はすでに多数の内部取引に分散されている可能性があるからです。

これは、読者が内容を記憶した後に本のページを切り取ることに似ています。ページは消えていますが、情報は必ずしも記憶から消えているわけではありません。

なぜ医学は「忘れる」必要があるのでしょうか？

忘れたいという欲求は、患者が気が変わり、データの使用に対する同意を撤回したときに始まり、終わるわけではありません。トレーニング後に、一部の記録にエラーが含まれていること、医療画像が誤った診断で分類されていること、または母集団グループがバランスの取れた方法で表現されていないことが判明する場合があります。また、データ自体に問題があるのではなく、データの基礎となった医学知識が変化したことに問題がある場合もあります。

これは医学において非常に重要な点です。臨床知識は静的なものではありません。新しい経験や証拠が出現すると、推奨される治療法も変化し、システムが学習したデータが収集された時点では許容されていた実践が見直される可能性があります。

研究者らは、証拠や推奨される治療法が異例の速さで変化したわかりやすい例として「新型コロナウイルス感染症（Covid-19）」のパンデミックを挙げている。後に不適切であることが判明した実践から医療モデルが学習した場合、単に最新のデータを追加するだけでは、システムに依存させたくない知識の痕跡を削除できるか?というより難しい質問に必ずしも答えられるとは限りません。

ここで「学習消去」は、データの消去を超えた機能を獲得します。科学自体が変化したときに、モデルの臨床記憶を修正するためのツールになるかもしれません。

患者にはアルゴリズムによって忘れられる権利があるのでしょうか?

コンピューターサイエンスから法律や患者の権利に移ると、問題はさらに複雑になります。 EU 一般データ保護規則 (GDPR) は、第 17 条に基づき、特定の状況において、個人データの消去を要求する権利を個人に与えています。これは「消去する権利」または「忘れられる権利」とも呼ばれます。

しかし、インテリジェント モデルは、従来のデータベースが処理できるように設計されていなかった問題を引き起こします。患者データがすでにトレーニング プロセスに入っている場合、元のレコードを削除しても、モデル内のそのデータの影響はどうなるのかという別の質問の答えが必ずしも得られるわけではありません。

この研究は、トレーニング済みモデルのトランザクションに消去義務が適用される範囲が依然として未解決の法的問題であることを示しています。元の情報は、簡単に見つけて削除できる特定の場所に保存されたままになるわけではなく、むしろその影響がモデルの構造全体に分散される可能性があります。

ここで、データを削除する法的権利と、最初からデータから学習していないかのようにアルゴリズムを動作させる技術的能力との間に新たなギャップが生じます。これは医学、コンピュータサイエンス、法律が融合する領域である一方、患者の「デジタル忘却の権利」の境界線はまだ形成されつつある。

忘れることにはリスクがないわけではない

しかし、モデルを忘れさせることはコストのかからないプロセスではありません。一連のデータの影響を取り除くと、対象となる情報そのものを超えて行動が変化する可能性があり、状況を区別したり、状況を「調整」したりする能力に影響を与える可能性があります。つまり、予測された確率が実際に発生する結果とどの程度一致するかということです。

この効果は均等に分散されない可能性があります。全体的なパフォーマンスを測定するときに成功しているように見えるプロセスは、特に限られた数の症例ですでに代表されている場合、特定の患者グループに大きな影響を与える可能性があります。

したがって、研究者らは学習消去を「削除ボタン」として扱うことに対して警告している。根本的な変更を行った後は、モデルを再テストし、そのパフォーマンスを以前のバージョンと比較して、意図しない副作用が現れないことを検証する必要があります。その一方で、プロセスが失敗した場合に以前のバージョンに戻す可能性も維持します。

したがって、この研究では、「非学習への対応力」という重要な概念を提案しています。つまり、医療システムは、後で忘れるべきデータを特定し、その痕跡を削除し、プロセスの成功を検証し、何が変化したかを文書化できるように最初から設計されるべきです。

したがって、「忘れる」ということは、必要性が現れてからではなく、モデルを構築するときに考慮すべき特性になります。

「固定モデル」から継続的なライフサイクルへ

「消去学習」は、医療システムが導入された後の私たちの見方も変えます。モデルは、承認を得て変更されない固定された製品として扱うべきではありません。データが変更され、医学的証拠が進化し、新たな誤りが発見される可能性があり、あるいは患者が自分の情報の使用に対する同意を撤回する可能性があります。

したがって、この研究では、データのソースとその追跡の可能性を知ることから始まり、モデルのバージョンを管理し、特定の情報の痕跡を削除する必要がある状況を判断することを経て、臨床で使用し続ける前に修正されたバージョンをテストするという継続的なライフサイクル内でデータに対処することを提案しています。

これは、新しい医療システムを採用する際の質問は、「どのように学んだのか」だけではないことを意味します。しかしまた、学んだことがもう有効ではないことが後でわかった場合、私たちはそれを修正する方法を知っているでしょうか?

この意味でのガバナンスは、医療 AI が病院に導入される際の 1 回限りの規制当局の承認ではなく、医療 AI のライフサイクル管理になります。

医療用人工知能に関する次の質問

私たちは過去数年間、できるだけ多くのデータから学習できるシステムの構築に努めてきました。しかし現在、医学には別の能力が必要かもしれない。それは、機械が何をいつ忘れるべきかを認識し、正しく学習した内容を損なうことなく忘れたことを証明する方法である。ドイツの哲学者フリードリヒ・ニーチェは1世紀以上前に、「忘れることは単なる怠惰な力ではなく、積極的で前向きな力である」と書きました。彼はアルゴリズムではなく人間の心について話していましたが、今日、彼のフレーズは当時では想像もできなかった技術的な意味を帯びています。機械にどのように教えるかに何年も注目が集まってきたが、次の段階は、必要になったときに機械が学習したことをどのように元に戻すかを考えることから始まるかもしれない。おそらく、機械の記憶は、何を保持できるかだけでなく、記憶が間違っている場合に何を忘れられるかによっても測定されるのでしょう。

医学においては、忘れることは学習の反対ではないかもしれません。むしろ、正しい学習を継続するための条件の一つです。

大規模な遺伝子研究の予備結果から、甘い味や脂っこい味を好む遺伝的変異を持つ人々は、実際にこれらの食品をより大量に食べる傾向があることが明らかになりました。この遺伝的素因は、体重の増加と 2 型糖尿病の発症リスクの若干の増加にも関連しています。

味の好みの遺伝的基盤に関する主要な研究

これらの結果は、長い間研究者を悩ませてきた疑問、つまり、なぜ一部の人はキャンディーを簡単に食べられるのに、他の人は甘いもの、甘い飲み物、脂肪分の多い食べ物に惹かれるのか?という疑問に説明を与える可能性がある。この研究は、その答えの一部が遺伝子に書かれている可能性があることを示唆しています。

この研究は、味の好みの遺伝的根拠を調査したこれまでで最大規模の研究の1つで、英国バイオバンクのデータに基づいたもので、このデータには英国の約50万人の遺伝情報と健康情報、食生活に関するデータが含まれている。

食欲の背後にある遺伝子

米国のマサチューセッツ総合病院ゲノム医療センターの研究者ジュリー・ジャービスが率いる研究チームは、革新的な方法を用いて遺伝子と食べ物の好みの関係を研究した。ジャービス博士は、2026年7月25日から28日までワシントンDC近郊のメリーランド州「ナショナルハーバー」で開催された米国栄養学会年次総会の「NUTRITION 2026」会議でこの結果を発表した。この研究は米国栄養学会（ASN）誌に掲載された。

感覚データベース: 研究者らは、単純に食べ物の何が好きかを尋ねるのではなく、食品の好みに関するアンケートの回答と、甘味、塩味、クリーミーさなど、さまざまな食品の特徴を説明する感覚データベースを組み合わせました。

味覚の遺伝子スコア：その後、参加者のグループでゲノムワイド分析を実施し、甘味、塩味、脂肪味の好みに関連する遺伝的差異を特定しました。次に、各人の好みのそれぞれを好む遺伝的素因を反映する「遺伝スコア」を作成しました。

別の参加者グループでは、研究者らはこの遺伝的素因が実際に食事行動や健康状態に反映されているかどうかをテストした。

デザートは少量からでも可能です

予備的な結果によると、甘い味を好む遺伝的傾向が強い人々は、キャンディーや砂糖入りの飲み物などの甘い食べ物を1日あたり平均約7グラム追加で摂取していることが示されました。

これは 1 日の量では少ないように思えるかもしれません。しかし研究者らは、食習慣の小さな違いが時間の経過とともに積み重なる可能性があると指摘している。

最も重要なことは、甘い味や脂肪の多い味を好む遺伝的素因が高いことは、体重の増加と 2 型糖尿病の発症リスクの若干の増加にも関連していたことです。

この関連性の大部分は、甘い飲み物、揚げ物、ポテトチップス、および一般に高レベルの砂糖、脂肪、または塩分を組み合わせたその他の食品など、いわゆる「嗜好性の高い食品」の摂取によるようです。

遺伝子は食べ物ではない

研究者らは、この結果は、その人が遺伝的に甘いものを好む傾向があることや、必然的に肥満や糖尿病になることを意味するものではないと強調している。食事と代謝の健康は、環境、食習慣、身体活動などの幅広い要因の影響を受けます。