画像診断における人工知能

🧠 全体像：人工知能 artificial intelligence 人工知能（artificial intelligence） artificial intelligence（人工知能） （AI）は大きな箱で、その中に機械学習machine learning機械学習（machine learning）machine learning（機械学習）、さらにその中に深層学習deep learning深層学習（deep learning）deep learning（深層学習）が入る入れ子である。機械学習machine learning 機械学習（machine learning）machine learning（機械学習） は「人が特徴を決め、機械がその特徴から判断のしかたを学ぶ」、深層学習deep learning 深層学習（deep learning）deep learning（深層学習） は「特徴の取り出し方まで機械が学ぶ」ところが違う。画像診断で主役なのは深層学習 deep learning 深層学習（deep learning） deep learning（深層学習） の一種である畳み込みニューラルネットワークconvolutional neural network 畳み込みニューラルネットワーク（convolutional neural network）convolutional neural network（畳み込みニューラルネットワーク） （CNN）で、検出・定量・予後予測prognostic 予後予測（prognostic）prognostic（予後予測） までこなす。一方で、AIは成績が良くても意味を理解しているとは限らない。撮影施設の目印で肺炎を「当てる」ような近道を学び、学習データtraining data 学習データ（training data）training data（学習データ） の偏りをそのまま再現し、画像そのものを偽造 forgery 偽造（forgery） forgery（偽造） する道具 tool 道具（tool） tool（道具） にもなる。したがってAIは読影医 interpreting radiologist 読影医（interpreting radiologist） interpreting radiologist（読影医） の補助であり、最終判断と責任は人に残る。2020年頃はまだ導入の初期だったが、2026年までに米国で認められたAI対応医療機器 AI-enabled medical device AI対応医療機器（AI-enabled medical device） AI-enabled medical device（AI対応医療機器） は累計1,600件を超え、EUではAI法 Artificial Intelligence Act (EU) AI法（Artificial Intelligence Act (EU)） Artificial Intelligence Act (EU)（AI法） が成立して医療機器 medical devices 医療機器（medical devices） medical devices（医療機器） のAIを「高リスク」として規制 Regulation 規制（Regulation） Regulation（規制） する段階に入った。

1. なぜ画像診断にAIが必要なのか

1.1 背景

1.2 なぜ「今」なのか

AIという考え方は1950年代からある。それが2010年代に急に実用になったのは、2つの条件がそろったからである。

• GPU：もとはゲームの画面を描くための演算装置で、同じ計算を大量に並列でこなすのが得意である。ニューラルネットワークneural network ニューラルネットワーク（neural network）neural network（ニューラルネットワーク） の学習は同じ形の掛け算・足し算の繰り返しなので、GPUで一気に速くなった。
• ビッグデータ：写真を大量に集めてラベルを付けたデータセットが整い、学習の材料が手に入るようになった。世界で1日に生まれるデータ量は約2.5×10¹⁸単位（250京）とよく引用される（一般にはバイトで語られる概算である）。

💡 深層学習deep learning 深層学習（deep learning）deep learning（深層学習） は「データが多いほど賢くなる」方式なので、計算力とデータの両方がそろって初めて本領を発揮する。

2. 人工知能とは何か

2.1 定義の4つの立場

AIの教科書として広く使われる Russell と Norvig の整理では、AIの定義は「考えることを目指すか、行動することを目指すか」と「人間を手本にするか、合理性（正しい答え）を手本にするか」の2軸で4つに分かれる。

💡 医療AIで求められるのは、多くの場合「合理的に行動する」AIである。人間の医師 medical doctor 医師（medical doctor） medical doctor（医師） と同じ考え方をする必要はなく、正しい判断を安定して出すことが目標になる。ただし後述のように、正しい答えを「正しくない理由」で出していないかを人が確かめる必要がある。

2.2 AI・機械学習・深層学習の入れ子

flowchart TD
    A["<span class='jp-term jp-term-diagram' title='artificial intelligence'>人工知能</span>（1950年代〜）<br>感知・推論・行動・適応するプログラム"] --> B["その一部：<span class='jp-term jp-term-diagram' title='machine learning'>機械学習</span>（1980年代〜）<br>データに触れるほど性能が上がる"]
    B --> C["その一部：<span class='jp-term jp-term-diagram' title='deep learning'>深層学習</span>（2010年代〜）<br>多層<span class='jp-term jp-term-diagram' title='neural network'>ニューラルネットワーク</span>が<br>膨大なデータから学ぶ"]
    C --> D["画像診断の主役：<br><span class='jp-term jp-term-diagram' title='convolutional neural network'>畳み込みニューラルネットワーク</span>（CNN）"]

⭐ 「AI＝深層学習 deep learning深層学習（deep learning） deep learning（深層学習）」ではない。深層学習deep learning 深層学習（deep learning）deep learning（深層学習） はAIのごく一部だが、画像診断で目立つ成果のほとんどはこの部分から出ている。

2.3 AIが人間に勝った最初の象徴：1997年

1997年、IBMのチェス専用コンピュータ「ディープ・ブルー」が、当時の世界チャンピオンのガルリ・カスパロフに公式 official 公式（official） official（公式） の対戦で勝った。AIが知的なゲームで人間の頂点に勝った最初の象徴的な出来事である。ただしディープ・ブルーは、人が作った評価の規則と膨大な先読みの計算で勝ったもので、データから自分で学ぶ今の深層学習 deep learning 深層学習（deep learning） deep learning（深層学習） とは仕組みが違う。

2.4 AIはどう働くか：入力→思考→行動

AIの働きは「入力→思考→行動」の3段階で整理できる。それぞれを担う技術と、医療に置き換えたときの対応は次のとおりである。

flowchart TD
    A["入力：医療データ<br>画像・文章・<span class='jp-term jp-term-diagram' title='Labs'>検査値</span>"] --> B["思考：<span class='jp-term jp-term-diagram' title='machine learning'>機械学習</span><br>データから判断のしかたを学ぶ"]
    B --> C["行動：<span class='jp-term jp-term-diagram' title='medical reasoning'>医学的推論</span><br>診断・リスク評価・方針の提案"]
    C --> D["最終判断は<span class='jp-term jp-term-diagram' title='medical doctor'>医師</span>が行う"]

3. 機械学習

3.1 定義と流れ

機械学習machine learning 機械学習（machine learning）machine learning（機械学習） は、判断のしかたを明示的にプログラムしなくても、大量のデータに触れることで、コンピュータが自動的に課題のこなし方を学び、性能を上げていく能力を与えるAIの一分野である。

古典的な機械学習 machine learning 機械学習（machine learning） machine learning（機械学習） の流れは次のとおりで、特徴の取り出し（特徴抽出feature extraction特徴抽出（feature extraction）feature extraction（特徴抽出））を人が設計するのが要点である。たとえば「車か車でないか」を判定させるなら、人が「車輪がある」「窓がある」といった手がかりを数値として取り出して与え、機械はその数値から分類のしかたを学ぶ。

flowchart TD
    A["入力<br>（例：写真）"] --> B["<span class='jp-term jp-term-diagram' title='feature extraction'>特徴抽出</span><br>人が手がかりを設計して数値にする"]
    B --> C["分類<br>機械が数値から判断のしかたを学ぶ"]
    C --> D["出力<br>「車」か「車でない」か"]

3.2 教師あり学習と教師なし学習

💡 教師あり学習supervised learning 教師あり学習（supervised learning）supervised learning（教師あり学習） の成績はラベルの質を超えられない。ラベルを付けた医師 medical doctor 医師（medical doctor） medical doctor（医師） の見落としや施設の癖は、そのままAIに受け継がれる。

3.3 学習データ・検証データ・テストデータ

教師あり学習supervised learning 教師あり学習（supervised learning）supervised learning（教師あり学習） では、集めたデータを役割の違う3つに分けて使う。

• 過学習overfitting過学習（overfitting）overfitting（過学習）：学習データ training data 学習データ（training data） training data（学習データ） に合わせすぎて、学習データtraining data 学習データ（training data）training data（学習データ） の成績は良いのに新しいデータで成績が落ちる状態。演習問題の答えを丸暗記して、少し違う問題が解けない受験生と同じである。学習データtraining data 学習データ（training data）training data（学習データ） での成績が上がり続けるのに検証データ validation data 検証データ（validation data） validation data（検証データ） の成績が下がり始めたら、過学習overfitting 過学習（overfitting）overfitting（過学習） のしるしである。
• ⚠️ 同じ患者の画像が学習データ training data 学習データ（training data） training data（学習データ） とテストデータ test data テストデータ（test data） test data（テストデータ） の両方に入ると、テストの成績が実際より良く見える。データは患者単位で分ける。
• ⭐ 同じ施設のデータで作ったテストデータ test data テストデータ（test data） test data（テストデータ） は、同じ装置・同じ患者層・同じ撮影の癖を共有している。別の施設のデータで確かめる外部検証 external validation外部検証（external validation） external validation（外部検証）をして初めて、ほかの病院でも使えるかが分かる（6.3節の肺炎AIの例）。
• AIの成績は、感度・特異度・ROC曲線下面積area under the receiver operating characteristic curve ROC曲線下面積（area under the receiver operating characteristic curve）area under the receiver operating characteristic curve（ROC曲線下面積） （AUC）など、診断検査diagnostic testing 診断検査（diagnostic testing）diagnostic testing（診断検査） と同じ指標で表す。

3.4 特徴抽出の例：ラジオミクス

ラジオミクスradiomicsラジオミクス（radiomics）radiomics（ラジオミクス）とは、画像の関心領域 region of interest (ROI) 関心領域（region of interest (ROI)） region of interest (ROI)（関心領域） から多数の定量的な特徴量 feature特徴量（feature） feature（特徴量）を取り出し、1つの異常を数百のパラメータ parameter パラメータ（parameter） parameter（パラメータ） で表す大きなデータセットを作る手法である。¹ 人の目では「濃い・薄い」「不均一」としか言えない性状を、濃度の分布、きめ（テクスチャ）、形などの数値に置き換える。

冠動脈CT血管造影coronary CT angiography 冠動脈CT血管造影（coronary CT angiography）coronary CT angiography（冠動脈CT血管造影） での流れは次のとおりである。

flowchart TD
    A["①<span class='jp-term jp-term-diagram' title='coronary CT angiography'>冠動脈CT血管造影</span>で<br>血管に沿って伸ばした画像を作り<br>プラークの部分を枠で囲む"] --> B["②プラークを立体的に区切り<br>範囲を色で塗り分ける"]
    B --> C["③何千もの<span class='jp-term jp-term-diagram' title='feature'>特徴量</span>を計算し<br>プラークごとの値を色の濃淡で並べ<br>似た特徴どうしを<span class='jp-term jp-term-diagram' title='dendrogram'>樹形図</span>でまとめる"]
    C --> D["④臨床情報や他の所見との<br>関係を統計的に探す"]

この手法で、冠動脈プラークcoronary plaque 冠動脈プラーク（coronary plaque）coronary plaque（冠動脈プラーク） のナプキンリング徴候napkin-ring signナプキンリング徴候（napkin-ring sign）napkin-ring sign（ナプキンリング徴候）（プラークの中心が低吸収で周囲が輪状に高吸収 high attenuation 高吸収（high attenuation） high attenuation（高吸収） に見える、心血管イベントの予後因子）を見分けると、石灰化や狭窄度 degree of stenosis 狭窄度（degree of stenosis） degree of stenosis（狭窄度） をそろえた対照のプラークと比べて、従来の定量指標8個はどれも有意差を示さなかったのに対し、ラジオミクスradiomics ラジオミクス（radiomics）radiomics（ラジオミクス） の特徴量 feature 特徴量（feature） feature（特徴量） 4,440個のうち20.6%が有意に異なり、最も良い特徴量 feature 特徴量（feature） feature（特徴量） でAUCは0.918であった。²

💡 ラジオミクスradiomics ラジオミクス（radiomics）radiomics（ラジオミクス） は「特徴を人が定義して計算し、判断は機械学習 machine learning 機械学習（machine learning） machine learning（機械学習） に任せる」という古典的な機械学習 machine learning 機械学習（machine learning） machine learning（機械学習） の型の代表である。深層学習deep learning 深層学習（deep learning）deep learning（深層学習） ではこの特徴の定義そのものを機械が学ぶ（4節）。

3.5 古典的な機械学習の手法

• k近傍法k-nearest neighbors k近傍法（k-nearest neighbors）k-nearest neighbors（k近傍法） の図では、「？」の新しい点のまわりに円を描くと、中に三角2つと四角1つが入る。k＝3なら多数決で三角と判定される。kを変えると答えが変わりうるので、kの選び方が成績を左右する。
• サポートベクターマシンsupport vector machine サポートベクターマシン（support vector machine）support vector machine（サポートベクターマシン） の図では、丸の群と四角の群を分ける線として、まっすぐな直線と、四角の群に沿って曲がった曲線の2本が描かれる。まっすぐな線で分けられないときは曲がった境界を使える。

4. 深層学習

4.1 機械学習との違い：特徴抽出の自動化

深層学習deep learning 深層学習（deep learning）deep learning（深層学習） （2012年頃から現在まで）の最大の特徴は、データから直接学ぶことで、課題に使う特徴を専門家 expert 専門家（expert） expert（専門家） が設計する必要がなくなることである。つまり「特徴抽出feature extraction 特徴抽出（feature extraction）feature extraction（特徴抽出） の作成を自動化する」。画像診断で最もよく使われるのは畳み込みニューラルネットワークconvolutional neural network 畳み込みニューラルネットワーク（convolutional neural network）convolutional neural network（畳み込みニューラルネットワーク） （CNN）である。

flowchart TD
    A["入力：画像そのもの"] --> B["多層のネットワーク<br>前半が<span class='jp-term jp-term-diagram' title='feature extraction'>特徴抽出</span><br>後半が分類<br>（両方をまとめて学習）"]
    B --> C["出力：<br>「車」か「車でない」か<br>「病変あり」か「なし」か"]

💡 2012年に、画像認識の国際的な競技会で深層学習 deep learning 深層学習（deep learning） deep learning（深層学習） の CNN が従来法を大差で上回ったことが、今の深層学習 deep learning 深層学習（deep learning） deep learning（深層学習） の流行の出発点になった。

4.2 パーセプトロンからニューラルネットワークへ

ニューラルネットワークneural network ニューラルネットワーク（neural network）neural network（ニューラルネットワーク） の単位（パーセプトロンperceptronパーセプトロン（perceptron）perceptron（パーセプトロン））は、神経細胞をまねたものである。

これを層状につなぐと（図の例では入力層 input layer入力層（input layer） input layer（入力層）・隠れ層hidden layer 隠れ層（hidden layer）hidden layer（隠れ層） 2層・出力層output layer出力層（output layer）output layer（出力層））、入力層input layer 入力層（input layer）input layer（入力層） →隠れ層 hidden layer 隠れ層（hidden layer） hidden layer（隠れ層） （中間層）→…→出力層 output layer出力層（output layer） output layer（出力層）のネットワークになる。前の層のすべての単位が次の層のすべての単位につながり、出力層output layer 出力層（output layer）output layer（出力層） の2つの単位が例えば「あり」と「なし」の答えを出す。

• ネットワークは無数の回帰式 regression equation 回帰式（regression equation） regression equation（回帰式） を互いにつないだものと考えられる。1つひとつの単位は重み付きの足し算（回帰式regression equation回帰式（regression equation）regression equation（回帰式））にすぎないが、何層も重ねて非線形 non-linear 非線形（non-linear） non-linear（非線形） の活性化関数 activation function 活性化関数（activation function） activation function（活性化関数） を挟むことで、複雑な非線形 non-linear 非線形（non-linear） non-linear（非線形） の関係を表せる。
• 隠れ層hidden layer 隠れ層（hidden layer）hidden layer（隠れ層） が何層も重なっていることが「深層deep深層（deep）deep（深層）」の意味である。
• 学習とは、出力と正解のずれ（誤差）が小さくなるように、出力側から入力側へ向かって重みを少しずつ直していく作業（誤差逆伝播法backpropagation誤差逆伝播法（backpropagation）backpropagation（誤差逆伝播法））の繰り返しである。

4.3 畳み込みニューラルネットワーク（CNN）の考え方

画像を1画素 pixel 画素（pixel） pixel（画素） ずつばらばらに全結合の層へ入れると、隣り合う画素 pixel 画素（pixel） pixel（画素） の関係（形）が失われ、重みの数も膨大になる。CNNは、小さな窓（フィルタ）を画像の上で少しずつずらしながら同じ計算を繰り返す畳み込みで、場所によらず同じ形の特徴を拾う。

flowchart TD
    A["入力画像<br>（胸部X線・CTの断面など）"] --> B["浅い層：畳み込み<br>辺・線・濃淡の変化を拾う"]
    B --> C["中間の層：畳み込みと縮小（プーリング）<br>辺の組み合わせから<br>形やきめを拾う"]
    C --> D["深い層<br>結節・陰影・臓器の輪郭など<br>意味のあるまとまりを表す"]
    D --> E["<span class='jp-term jp-term-diagram' title='fully connected layer'>全結合層</span><br>特徴をまとめて判断"]
    E --> F["出力：分類・病変の位置・<br>領域の区分・数値の予測"]

5. 画像診断での応用例

5.1 1枚の胸部X線から長期の死亡リスクを予測する

米国の大規模 genome mutation 大規模（genome mutation） genome mutation（大規模） 検診試験の胸部X線で CNN（CXR-risk）を作り、入組時の胸部X線1枚だけから長期死亡のリスクを5段階（超低・低・中・高・超高）に分けた研究である。³

💡 AIは、人の目には細かすぎて見えない情報を拾い、人とは違うやり方でデータを読む。胸部X線に写る「体全体の老け具合」のような情報を、放射線科医radiologist 放射線科医（radiologist）radiologist（放射線科医） の所見や年齢・性別・糖尿病などの危険因子とは別の予後情報として取り出したと考えられる。ただし、なぜ予測できるのかは完全には説明できない（6.5節）。

5.2 急性脳梗塞

急性脳梗塞acute cerebral infarction 急性脳梗塞（acute cerebral infarction）acute cerebral infarction（急性脳梗塞） では、MRIの拡散強調像 diffusion-weighted image 拡散強調像（diffusion-weighted image） diffusion-weighted image（拡散強調像） で片側の大脳半球に点状〜斑状の高信号（急性の虚血）が見える。AIソフトはこれと並べて、同じ側の大脳半球の広い範囲を色分けした定量マップを自動で作る。マップで色がつく範囲は、拡散強調像diffusion-weighted image 拡散強調像（diffusion-weighted image）diffusion-weighted image（拡散強調像） の高信号よりも広い。

💡 すでに傷んだ組織（梗塞の中心）と、血流が落ちているがまだ救える組織（ペナンブラpenumbra (ischemic penumbra)ペナンブラ（penumbra (ischemic penumbra)）penumbra (ischemic penumbra)（ペナンブラ））の大きさを自動で計算して示すのが、この種のソフトの役割である。ミスマッチmismatch ミスマッチ（mismatch）mismatch（ミスマッチ） の考え方と再灌流療法 reperfusion therapy 再灌流療法（reperfusion therapy） reperfusion therapy（再灌流療法） の適応は救急の神経画像 neuroimaging 神経画像（neuroimaging） neuroimaging（神経画像） 診断で扱う（虚血性脳卒中ischemic stroke虚血性脳卒中（ischemic stroke）ischemic stroke（虚血性脳卒中））。

5.3 COVID-19肺炎

胸部CTの肺野条件 lung window 肺野条件（lung window） lung window（肺野条件） の横断像 axial image 横断像（axial image） axial image（横断像） で、両肺の胸膜側に斑状の淡い陰影（すりガラス影ground-glass opacityすりガラス影（ground-glass opacity）ground-glass opacity（すりガラス影））が見える。AIソフトは病変の部分を自動で色づけし、さらに肺と気管支を立体的に再構成した画像の上に、病変の広がりを色で重ねる。色は両肺の外側（胸膜側）と下の方に多い。こうして肺全体のうち何%が侵されているかを数値で出し、重症度の判定と経過の比較に使う（COVID-19）。

5.4 今どこでAIが使われているか

2020年の時点では、脳梗塞ischemic stroke (cerebral infarction) 脳梗塞（ischemic stroke (cerebral infarction)）ischemic stroke (cerebral infarction)（脳梗塞） やCOVID-19肺炎 COVID-19 pneumonia COVID-19肺炎（COVID-19 pneumonia） COVID-19 pneumonia（COVID-19肺炎） の解析ソフトを大学病院が導入し始めた段階だった。その後、利用は大きく広がった。米国食品医薬品局Food and Drug Administration, FDA 米国食品医薬品局（Food and Drug Administration, FDA）Food and Drug Administration, FDA（米国食品医薬品局） （FDA）が公開しているAI対応医療機器 AI-enabled medical device AI対応医療機器（AI-enabled medical device） AI-enabled medical device（AI対応医療機器） の一覧には、2026年9月時点で1,614件が載り、そのうち約76%（1,230件）が放射線科 radiology (department) 放射線科（radiology (department)） radiology (department)（放射線科） の領域である。⁴ 画像診断は医療AIの最大の応用分野である。

AIに任せられることと任せられないことの一覧は画像診断学diagnostic radiology 画像診断学（diagnostic radiology）diagnostic radiology（画像診断学） 入門の8節にある。

6. リスクと危険

6.1 AIが「想像」する：敵対的生成ネットワーク（GAN）

敵対的生成ネットワークgenerative adversarial network 敵対的生成ネットワーク（generative adversarial network）generative adversarial network（敵対的生成ネットワーク） （GAN）は、偽物を作るネットワーク（生成器generator (GAN)生成器（generator (GAN)）generator (GAN)（生成器））と、本物か偽物かを見破るネットワーク（識別器discriminator (GAN)識別器（discriminator (GAN)）discriminator (GAN)（識別器））を競わせて学習させる仕組みである。生成器generator (GAN) 生成器（generator (GAN)）generator (GAN)（生成器） は識別器 discriminator (GAN) 識別器（discriminator (GAN)） discriminator (GAN)（識別器） をだませるように、識別器discriminator (GAN) 識別器（discriminator (GAN)）discriminator (GAN)（識別器） は見破れるように上達するので、最後には本物と見分けにくい画像ができる。2019年12月に公開された StyleGAN2 は、子どもから中高年まで、性別も肌の色も様々な、実在しない人の顔写真を本物と区別できない質で作った。

• 利点：まれな疾患の画像を増やして学習データ training data 学習データ（training data） training data（学習データ） を補う、低線量low-dose 低線量（low-dose）low-dose（低線量） の画像を高画質 image quality 画質（image quality） image quality（画質） 化するなど。
• ⚠️ 危険：本物らしい偽の画像を作れるということは、医用画像medical imaging 医用画像（medical imaging）medical imaging（医用画像） の偽造 forgery 偽造（forgery） forgery（偽造） にも使える（6.6節）。

6.2 AIは偏っているか

AIは学習データtraining data 学習データ（training data）training data（学習データ） に含まれる偏りを、そのまま、あるいは強めて再現する。有名な例として、ぼやけた低解像度 low resolution 低解像度（low resolution） low resolution（低解像度） の顔写真をAIで高解像度に「復元restoration復元（restoration）restoration（復元）」させると、元は黒人男性の顔だったものが、白人男性の顔として出力された。学習に使った顔写真が白人に偏っていたため、「もっともらしい顔」を白人の顔として描き足したのである。

• 映画やドラマのように、画質image quality 画質（image quality）image quality（画質） の悪い画像に「画像を鮮明にしろ」と命じれば真実が浮かび上がる、というのは誤解である。AIは失われた情報を取り戻すのではなく、学習データtraining data 学習データ（training data）training data（学習データ） をもとにもっともらしいものを描き足している。
• ⚠️ 医療では、特定の人種・性別・年齢層、特定の装置のデータで学習したAIが、別の集団で成績を落とす危険がある。画像を高画質 image quality 画質（image quality） image quality（画質） 化するAIが、ないはずの構造を描き足したり、ある病変を消したりする可能性も考える必要がある。

6.3 成績は理解ではない：近道学習

肺炎を胸部X線で見つける CNN を3つの病院系のデータで調べた研究では、施設内のテストでは成績が良くても、別の施設では成績が落ちることが多かった。⁵

• 撮影した病院系を当てるネットワーク（肺炎を判定するネットワークとは別のもの）で、判断に効いた部分を色で示すと、画像の隅の寄与が特に強かった。個々の画像では、技師が撮影時に視野の隅に置く金属の目印（左右の標識）を見分けるように学習していた。ただし、このネットワークは目印がなくても病院系を当てられた。NIHの画像100枚の例では、画像を7×7に分けた小領域の72.9%が単独で95%以上の確実性で病院系を予測しており、病院系の手がかりは画像の多くの部分にあった。⁵
• 肺炎の有病率 prevalence 有病率（prevalence） prevalence（有病率） は施設によって大きく違い（ある病院で34.2%、別の2施設で1.2%と1.0%）、どの病院で撮ったかを当てるだけで合同データのAUCが0.861に達した。⁵ ネットワークは撮影した病院系（ある施設の画像の99.95%、別の施設の99.98%を正しく判別）や、同じ病院内の部署を高い精度で見分けていた。
• つまりAIは「肺炎の画像所見」ではなく「肺炎の多い病院の画像」という近道を学んで、見かけの成績を上げていた。
• COVID-19を胸部X線で見つけるCNNでも、近道を学んでいた例が報告されている。サリエンシーマップ（各画素 pixel 画素（pixel） pixel（画素） が予測に効いた度合いの地図）は、肺野lung field 肺野（lung field）lung field（肺野） を示すこともある一方で、撮影時に入る左右の標識を頻繁に強調し、画像の縁、横隔膜、心陰影cardiac silhouette 心陰影（cardiac silhouette）cardiac silhouette（心陰影） も予測に重要と示した。縁・横隔膜・心陰影cardiac silhouette 心陰影（cardiac silhouette）cardiac silhouette（心陰影） は放射線科医 radiologist 放射線科医（radiologist） radiologist（放射線科医） が通常COVID-19の判断に使う部位ではなく、データ集合ごとの体位や撮影方向（前後方向か後前方向か）の違いを反映する可能性が高いと著者らは述べる。⁶

flowchart TD
    A["<span class='jp-term jp-term-diagram' title='training data'>学習データ</span>：肺炎の多い施設と<br>少ない施設の画像が混ざる"] --> B["AIは施設の目印・<span class='jp-term jp-term-diagram' title='image quality'>画質</span>の癖から<br>撮影施設を見分けられる"]
    B --> C["「この施設の画像なら肺炎が多い」<br>という近道を学ぶ"]
    C --> D["施設内のテストでは<br>成績が良く見える"]
    D --> E["別の施設では近道が通用せず<br>成績が落ちる"]
    E --> F["対策：<span class='jp-term jp-term-diagram' title='external validation'>外部検証</span>・<br>判断根拠の可視化・<br>導入後の性能監視"]

⭐ 「性能 ≠ 理解」。AUCが高いことは、AIが医学的に正しい理由で判断していることを保証しない。

6.4 過学習と汎化の失敗

3.3節の過学習 overfitting過学習（overfitting） overfitting（過学習）、6.3節の近道学習 shortcut learning 近道学習（shortcut learning） shortcut learning（近道学習） は、どちらも「学習したデータの外で成績が落ちる」問題（汎化generalization 汎化（generalization）generalization（汎化） の失敗）である。導入後も、装置の更新、撮影条件exposure (acquisition) parameters 撮影条件（exposure (acquisition) parameters）exposure (acquisition) parameters（撮影条件） の変更、患者層の変化でデータの性質がずれ、成績が静かに落ちていくことがある。そのため、導入前の外部検証 external validation 外部検証（external validation） external validation（外部検証） に加え、導入後も自施設で成績を監視し続ける必要がある。

6.5 説明可能性

深層学習deep learning 深層学習（deep learning）deep learning（深層学習） は、何百万もの重みの組み合わせで答えを出すため、なぜその答えになったのかを人が理解しにくい（ブラックボックス問題black-box problemブラックボックス問題（black-box problem）black-box problem（ブラックボックス問題））。

• Grad-CAM などの可視化は、画像のどこが答えに効いたかを色で示し、6.3節のような近道を見つける手がかりになる。
• ⚠️ ただし色の地図は「どこを見たか」を示すだけで、「なぜそう判断したか」までは説明しない。地図がもっともらしく見えても、判断が正しいとは限らない。

6.6 医用画像の改ざん：「見ることは信じることか？」

深層学習deep learning 深層学習（deep learning）deep learning（深層学習） は画像の偽造 forgery 偽造（forgery） forgery（偽造） にも使える。CT-GAN と名付けられた手法では、病院のネットワークに入り込んだ攻撃者が、CTの立体データに肺癌を書き加えたり、実在する肺癌を消したりできることが示された。⁷

flowchart TD
    A["①DICOMファイルを読み込む"] --> B["②標的の位置を決めて小さな立方体を切り出す<br>加えるなら：結節の位置か任意の位置<br>消すなら：最大の結節"]
    B --> C["③前処理：縮尺をそろえ<br>濃度を平坦化・正規化し<br>中心を覆い隠す"]
    C --> D["④GANが覆った中心を描く<br>加える用のGAN：腫瘍を描く<br>消す用のGAN：正常な肺を描く"]
    D --> E["⑤後処理：正規化と平坦化を元に戻し<br>元の縮尺に戻す"]
    E --> F["⑥元の画像と重み付きで混ぜ<br>雑音を加えて継ぎ目を隠す"]
    F --> G["⑦元の位置に貼り戻す<br>（病変が複数なら②〜⑦を繰り返す）"]
    G --> H["⑧DICOMとして書き戻す"]

• 改ざんした画像では、もとは細い血管の影しかなかった場所に、丸い結節がなじんだ形で写る。
• 専門の放射線科医 radiologist 放射線科医（radiologist） radiologist（放射線科医） 3人も、深層学習deep learning 深層学習（deep learning）deep learning（深層学習） の検出AIも、この改ざんに強くだまされた。⁷
• 起こりうる被害：不要な治療や見逃しによる健康被害health damage健康被害（health damage）health damage（健康被害）、死亡、精神的な被害、偽の診断による生活の変化（職業・保険・政治Politics 政治（Politics）Politics（政治） 活動など）、保険金詐欺などの経済的な影響。

⚠️ 対策は、改ざんを防ぐ予防と、改ざんを見つける検出に分けて考える。論文が挙げる対策は次のとおりである。⁷

• 予防：PACS内の通信をSSL証明書で暗号化する。モダリティmodality モダリティ（modality）modality（モダリティ） と読影 image interpretation 読影（image interpretation） image interpretation（読影） 端末のサーバーや対ウイルスソフトを最新に保つ。PACSサーバーのインターネットへの露出を制限する。
• 検出：スキャナが各スキャンにデジタル署名を付けるのが最良の方法で、DICOMの規格 available strengths 規格（available strengths） available strengths（規格） は署名の保存をすでに認めている。署名を使うときは、有効な証明書が使われ、読影image interpretation 読影（image interpretation）image interpretation（読影） 用のソフトが署名を実際に検証しているかを管理者が確かめる。電子透かし（改ざんで壊れる隠れた信号を画像に埋め込む方法）も検出に使える。

6.7 責任とデータ保護

6.8 リスクと対策のまとめ

7. 規制の現在（2020年時点との違い）

2020年の時点では、医療AIを横断的に扱う法律はまだなかった。現在の主な枠組みは次のとおりである。

⚠️ 規制Regulation 規制（Regulation）Regulation（規制） と承認の状況は年単位で変わる。数字と期日は上の時点のもので、使うときは最新の一次資料で確かめる。

8. 画像診断の未来

8.1 指数関数的な進歩

1,000ドルで買える計算機が1秒間にこなせる計算の回数は、20世紀を通じて指数関数的 exponentially 指数関数的（exponentially） exponentially（指数関数的） に増えてきた。対数目盛の予測図では、この曲線が21世紀のうちに、昆虫の脳→マウスの脳→1人の人間の脳→全人類の脳に相当する計算量を順に越えていく（将来の部分は予測の模式図である）。

放射線医学radiology 放射線医学（radiology）radiology（放射線医学） の進歩を時間に対して描くと、長いあいだほぼ平らに見えた線が、現在の地点で急に立ち上がり upstroke 立ち上がり（upstroke） upstroke（立ち上がり） 始め、この先はほぼ垂直に伸びていく、という見通しが示されていた。指数関数的exponentially 指数関数的（exponentially）exponentially（指数関数的） な変化は、その渦中にいる人には緩やかに見えるが、ある時点から急に目に見えて速くなる。

8.2 これからの放射線科医

2020年の時点で描かれていた見通しは次のとおりである。

• AIの助けで、放射線科医radiologist 放射線科医（radiologist）radiologist（放射線科医） の仕事はより効率的になる。
• 放射線科医radiologist 放射線科医（radiologist）radiologist（放射線科医） は撮影の前後に相談役を務め、患者により近いところで働き、個別化医療individualized (personalized) medicine 個別化医療（individualized (personalized) medicine）individualized (personalized) medicine（個別化医療） を向上させる。
• 「未来の放射線科医 radiologist 放射線科医（radiologist） radiologist（放射線科医） は、機械があるにもかかわらずではなく、機械のおかげで、今の放射線科医 radiologist 放射線科医（radiologist） radiologist（放射線科医） よりはるかに優れた存在になる」。

💡 2026年の時点でも、AIは放射線科医 radiologist 放射線科医（radiologist） radiologist（放射線科医） を置き換えるのではなく、検出・優先度付け・計測measuring 計測（measuring）measuring（計測） を補う道具 tool 道具（tool） tool（道具） として広がっている（5.4節）。AIの答えの妥当性 validity 妥当性（validity） validity（妥当性） を画像と臨床から判断できる力は、むしろ重要になった。

9. 画像で確かめる

• EI-13-01 COVID-19肺炎COVID-19 pneumoniaCOVID-19肺炎（COVID-19 pneumonia）COVID-19 pneumonia（COVID-19肺炎）：72歳の急な発熱・呼吸困難。非造影unenhanced imaging 非造影（unenhanced imaging）unenhanced imaging（非造影） 胸部CTの横断像 axial image 横断像（axial image） axial image（横断像） で、全肺葉 lobe 肺葉（lobe） lobe（肺葉） の胸膜側にすりガラス影 ground-glass opacity すりガラス影（ground-glass opacity） ground-glass opacity（すりガラス影） （黄色の線で囲んだ範囲）とコンソリデーション consolidation コンソリデーション（consolidation） consolidation（コンソリデーション） が広がり、診断は「肺実質の80%超に及ぶCOVID-19肺炎 COVID-19 pneumoniaCOVID-19肺炎（COVID-19 pneumonia） COVID-19 pneumonia（COVID-19肺炎）」とされる。このように病変の広がりを肺実質の割合で表すのが、5.3節の定量ソフトが自動で出す値である。

  

  生成模式図（実際の試験画像ではありません）。

10. まとめ

• AI ⊃ 機械学習machine learning機械学習（machine learning）machine learning（機械学習） ⊃ 深層学習deep learning深層学習（deep learning）deep learning（深層学習）。機械学習machine learning 機械学習（machine learning）machine learning（機械学習） は人が特徴を設計し、深層学習deep learning 深層学習（deep learning）deep learning（深層学習） は特徴抽出 feature extraction 特徴抽出（feature extraction） feature extraction（特徴抽出） まで自動化する。画像では CNN が主役である。
• 教師あり学習supervised learning 教師あり学習（supervised learning）supervised learning（教師あり学習） （分類・回帰）はラベル付きデータ、教師なし学習unsupervised learning 教師なし学習（unsupervised learning）unsupervised learning（教師なし学習） （クラスタリング・異常検知anomaly detection異常検知（anomaly detection）anomaly detection（異常検知））はラベルなしデータから学ぶ。データは学習・検証・テストに患者単位で分け、外部検証external validation 外部検証（external validation）external validation（外部検証） で汎化 generalization 汎化（generalization） generalization（汎化） を確かめる。
• 古典的手法：k近傍法 k-nearest neighbors k近傍法（k-nearest neighbors） k-nearest neighbors（k近傍法） （近くのk個の多数決）、サポートベクターマシンsupport vector machine サポートベクターマシン（support vector machine）support vector machine（サポートベクターマシン） （余白を最大にする境界）。ラジオミクスradiomics ラジオミクス（radiomics）radiomics（ラジオミクス） は人が定義した多数の特徴量 feature 特徴量（feature） feature（特徴量） で病変を数値化する。
• 応用：胸部X線1枚からの長期死亡リスク予測 prediction for further pregnanciesリスク予測（prediction for further pregnancies） prediction for further pregnancies（リスク予測）、急性脳梗塞acute cerebral infarction 急性脳梗塞（acute cerebral infarction）acute cerebral infarction（急性脳梗塞） のマップ作成、COVID-19肺炎COVID-19 pneumonia COVID-19肺炎（COVID-19 pneumonia）COVID-19 pneumonia（COVID-19肺炎） の範囲の定量、検出・優先度付け・計測measuring計測（measuring）measuring（計測）・再構成。米国で認められたAI対応医療機器 AI-enabled medical device AI対応医療機器（AI-enabled medical device） AI-enabled medical device（AI対応医療機器） の約4分の3が放射線科 radiology (department) 放射線科（radiology (department)） radiology (department)（放射線科） の領域である。
• リスク：学習データ training data 学習データ（training data） training data（学習データ） の偏り、近道学習shortcut learning 近道学習（shortcut learning）shortcut learning（近道学習） （性能 ≠ 理解）、過学習overfitting過学習（overfitting）overfitting（過学習）、説明の難しさ、GANによる画像の偽造 forgery偽造（forgery） forgery（偽造）・改ざん、責任とデータ保護。
• AIは補助であり、最終判断と責任は人にある。EUのAI法 Artificial Intelligence Act (EU) AI法（Artificial Intelligence Act (EU)） Artificial Intelligence Act (EU)（AI法） では医療機器 medical devices 医療機器（medical devices） medical devices（医療機器） のAIは高リスクに分類され、その義務は2026年の改正で延期され、2028年8月2日から適用される。