拡散モデルに基づく特徴増強を用いた全スライド画像における多インスタンス学習

コンピューターサイエンス 情報科学 人工知能 腫瘍学 医学
特徴増強 拡散モデル 多インスタンス学習 全スライド画像 計算病理学 深層学習 画像生成

拡散モデルに基づく特徴拡張：全視野病理画像における多数例学習の新手法

学術的背景と研究の動機

計算病理学（computational pathology）の分野では、全視野スライド画像（Whole Slide Images, WSIs）の効果的な分析方法が現在の研究課題として注目されています。WSIsは超高解像度の画像であり、広範囲な視野を持ち、がん診断に広く利用されています。しかし、ラベル付きデータの不足や巨大な画像データがもつ計算負荷の問題から、WSIの自動解析における深層学習手法、特に多数例学習（Multiple Instance Learning, MIL）には多くの課題があります。

MILは典型的な弱教師あり学習手法であり、WSI全体を「バッグ」に見立て、その中の小領域（パッチ）を「インスタンス」として扱います。バッグ単位のラベルは判明している一方で、個々のインスタンスのラベルは不明です。MILの応用では、トレーニングデータの不足がモデルの過学習を引き起こし、多数のインスタンスがモデル学習において計算負荷を増すといった問題があります。こうした問題を解決するため、画像のデータ拡張が注目されてきました。しかし、従来の画像拡張手法（回転や伸縮など）は、モデルの汎用性向上に一定の効果があるものの、WSIの莫大なデータ量を処理する際には非効率的である上、生成された拡張データが冗長な情報を多く含む可能性があります。

近年では特徴レベルでの拡張手法が注目されています。画像拡張に比べ、特に特徴空間に直接働きかけるため、画像処理を繰り返す必要がなく効率性が向上します。しかし、既存の特徴拡張手法は、Mixupに基づく線形特徴生成や生成対向ネットワーク（Generative Adversarial Networks, GANs）に基づく特徴生成のように、多様性や安定性が不足しているため、データ拡張の質や実効性が制限されています。拡散モデル（Diffusion Model, DM）は新たな生成モデルとして、多様性と安定性の両面で優れた特性を示しており、これらの問題を克服できる可能性があります。本研究では、MILフレームワークに拡散モデルを初めて組み込み、新たな特徴拡張フレームワーク「AugDiff」を提案します。この手法の目的は、オンラインでの効率の良い高品質な特徴拡張を実現し、既存手法の欠点を克服することです。

論文の出典と著者

本論文はZhuchen Shao、Liuxi Dai、Yifeng Wang、Haoqian Wang、およびYongbing Zhangが執筆し、主要な著者は清華大学深圳国際研究生院およびハルビン工業大学（深圳）に所属しています。論文は*IEEE Transactions on Artificial Intelligence*の2024年第12号に掲載され、タイトルは「AugDiff: Diffusion-Based Feature Augmentation for Multiple Instance Learning in Whole Slide Image」です。本研究は中国国家重点研究開発計画、および深圳市科学技術プロジェクトからの支援を受け、コードはhttps://github.com/szc19990412/augdiffで公開されています。

研究方法とプロセス

研究全体のフレームワーク：
AugDiffの核心は、拡散モデルの「逐次生成」の特性を利用して特徴を拡張し、同時に元の意味情報を保持することです。AugDiffの設計には以下の手順が含まれます： 1. WSIの分割と特徴抽出： WSIを複数のパッチに分割し、事前学習済み特徴抽出器（ResNet18およびRegNetX）を使用して、パッチレベルの特徴を抽出。 2. 拡散モデルのトレーニング： 多種多様な拡張画像の特徴（ランダム回転や色調変化など）を与えて、拡散モデルに特定の特徴生成プロセスを学習させる。 3. MILトレーニングの統合： MILのトレーニングの過程で、AugDiffが動的に拡張特徴を生成し、その特徴をMILモデルに提供してオンライン学習を実行する。

拡散モデルの設計：
拡散モデルは、正方向拡散と逆方向拡散の2つの段階に分かれます。正方向拡散ではデータ分布がガウス分布に変換されるまでノイズを徐々に追加します。一方、逆方向拡散ではデノイジングオートエンコーダ（denoising autoencoder, DAE）を使用して、入力データを元の分布へ段階的に復元します。AugDiffの革新性は、元の特徴を初期の「ノイズ」として利用し、各サンプリングステップにおいて意味情報の保持と拡張をコントロールする点にあります。

主要アルゴリズムと実装： AugDiffのサンプリングプロセスは以下の二段階に分かれます： - Kステップ拡散： 元の特徴から開始し、ノイズを段階的に追加。 - Kステップデノイジング： トレーニング済みDAEを利用して、入力特徴を段階的にデノイズし、拡張特徴を生成。

さらに、多種多様な画像拡張手法（ランダム回転、エラスティック変形、ガウスぼかしなど）を使用し、拡散モデルのトレーニングを導きます。関連アルゴリズムの詳細は論文付録に記載されており、拡散トレーニングの核心式は以下の通りです：

$$ L{DM} = E{x, \epsilon \sim N(0,1), t} [||\epsilon - \epsilon_{\theta}(x_t, t)||^2] $$

実験設定とデータ： 本研究は、前立腺がん（SICAPv2）、結直腸がん（Unitopatho）、膵臓がん（TMAS）、および乳がん（Camelyon16）の4つの異なるがんデータセットを使用して評価を行いました。2種類の特徴抽出器と3種類の主要なMILアルゴリズム（AMIL, LossAttn, DSMIL）において、AugDiffの適用性と安定性を確認しました。

研究成果と分析

1. パフォーマンス向上：
実験結果は、異なるデータセットにおいて、AugDiffが他手法よりも顕著な性能向上を達成したことを示しています。例えば、前立腺がんデータセット（SICAPv2、ResNet18）の場合、AugDiffの平均AUCは0.749であり、特徴拡張なしの結果に比べて約4％向上しました。

2. 時間と効率：
AugDiffのオンライン特徴拡張は、従来の画像拡張手法に比べ、計算コストを大幅に削減しました。10倍拡大倍率のWSIにおいて、AugDiffは画像拡張より30倍以上高速であり、また、メモリ使用の効率も向上し、より高解像度のWSIにも適用可能です。

3. 多様性と品質：
AugDiffが生成した拡張特徴は、実際のデータ分布により近く、GANモデルにおける不安定な生成結果を回避しています。UMAPによる可視化（次元削減）結果は、AugDiffの拡張サンプルの分布が理にかなっていることを示しています。

4. 汎化能力：
異なるデータセット間でのテストでは、AugDiffの事前トレーニングモデルが外部データセットでも高い性能を示しました。例えば、Unitopathoデータセットでは、AugDiffの平均AUCは0.911となり、他の特徴拡張や画像拡張手法よりも優れていました。

研究の意義と展望

AugDiffの提案により、多数例学習（MIL）や全視野スライド画像（WSI）自動解析の研究において、以下の進展がもたらされました： 1. 科学的意義： AugDiffによる特徴拡張は、拡散モデルが計算病理学分野で適応可能であることを初めて実証しました。WSI解析における大量データ不足の課題に対して新たな解決策を提供します。 2. 実用的価値： AugDiffは高速かつ効率的に拡張を実現し、希少がんなどの診断におけるトレーニングデータ生成に重要な利点を提供します。 3. 将来への展望： AugDiffのフレームワークは、半教師あり学習や高解像度WSIデータセットへの拡張が期待されています。また、特徴拡張プロセスの柔軟性や、拡張と元データ特徴のマッピングの最適化も、今後のさらなる研究課題となるでしょう。

AugDiffは、多数例学習（MIL）フレームワーク内でのWSI解析の新しい効率的かつ安定した特徴拡張手法を提供し、理論的にも実用的にも大きな可能性を示しました。