カリキュラムガイドによる動的異種ネットワークの自己教師あり表現学習

学術的背景 現実世界では、ネットワークデータ(ソーシャルネットワーク、引用ネットワークなど)は通常、複数のタイプのノードとエッジを含み、これらのネットワーク構造は時間とともに動的に変化します。これらの複雑なネットワークをよりよく分析するために、研究者たちはネットワーク埋め込み(network embedding)技術を提案し、ネットワーク内のノードとエッジを固定長のベクトルとして表現し、ノード分類、リンク予測などの後続の分析タスクを容易にしました。しかし、従来のネットワーク埋め込みモデルは、動的異種ネットワーク(dynamic heterogeneous networks)を処理する際に多くの課題に直面しており、特にネットワーク構造の動的変化と異質性を効果的に捉える方法が問題となっています。...

ICUにおける敗血症患者の毎日のリスクアラートの予測モデル:リスク指標の可視化と臨床分析

膿毒症(Sepsis)は、感染によって引き起こされる全身性炎症反応症候群であり、多臓器不全や高い死亡率を引き起こすことが多い。現代医学技術は膿毒症の治療において大きな進歩を遂げているが、依然として一部の患者は病状の急激な悪化により死亡している。そのため、膿毒症患者の死亡リスクを正確に予測することは、臨床医が迅速で個別化された介入戦略を立てる上で極めて重要である。しかし、既存の臨床スコアリングシステム(APACHE-IIやSOFAスコアなど)は、重症患者の全体的な病状を評価できるものの、膿毒症患者に特化して最適化されていない。さらに、従来の機械学習モデルは時系列データを処理する際に、疾患の進行の時系列的特徴を見落とすことが多く、予測性能が限られている。 これらの課題に対処するため、本研究ではT...

トランスフォーマーを用いたCryo-EM密度マップの効率的な強化

学術的背景 低温電子顕微鏡(Cryo-EM)は、タンパク質などの巨大分子の構造を解析するための重要な実験技術です。しかし、Cryo-EMの有効性は、低コントラストや構造の異質性などの実験条件によって引き起こされるノイズや密度値の欠損によってしばしば制限されます。既存のグローバルおよびローカルな画像シャープニング技術はCryo-EM密度マップの改善に広く使用されていますが、より正確なタンパク質構造を構築するためにその品質を効率的に向上させることには依然として課題があります。この問題を解決するために、研究者はCryoTenという3D UNETR++スタイルのTransformerモデルを開発し、Cryo-EM密度マップの品質を効果的に向上させることを目指しています。 論文の出典 この論文は、Jo...

特徴消去と対照学習を組み合わせた二重関係Transformerネットワークを用いた多ラベル画像分類

多ラベル画像分類の新たなブレークスルー——デュアルリレーショントランスフォーマーネットワーク 学術的背景 多ラベル画像分類(Multi-Label Image Classification, MLIC)は、コンピュータビジョン分野における基礎的でありながら非常に挑戦的な問題です。単一ラベル画像分類とは異なり、MLICの目標は、1枚の画像内の複数のオブジェクトに同時にラベルを割り当てることです。画像内には複数のオブジェクトが含まれる可能性があり、これらのオブジェクト間には複雑な空間的および意味的関係が存在するため、MLICタスクはシーンの複雑さ、オブジェクトのスケールの多様性、およびオブジェクト間の暗黙の関連性といった課題に直面しています。近年、深層学習技術の急速な発展、特に畳み込みニューラル...

豊富な帰納バイアスを用いた視覚言語モデルの学習

豊富な帰納的バイアスを用いた視覚と言語モデルの学習 研究背景と問題提起 近年、視覚と言語モデル(Vision-Language Models, VLMs)は、コンピュータビジョンおよび自然言語処理の分野で顕著な進展を遂げています。これらのモデルは大規模な画像-テキストペアに基づいて事前学習され、統一されたマルチモーダル表現空間を構築し、多様な下流タスクで優れたパフォーマンスを発揮します。しかし、少数ショット学習(few-shot learning)のシナリオでは、特定のタスクに適応させつつ良好な汎化能力を維持するためには、これらのモデルを効果的に調整する方法が依然として解決すべき課題となっています。 既存の手法は通常、プロンプトエンジニアリング(prompt engineering)やパラメ...

Seaformer++:モバイル視覚認識のためのスクイーズ強化軸変換器

SEAFormer++——モバイルビジョン認識のための効率的なTransformerアーキテクチャ 研究背景と問題提起 近年、コンピュータビジョン分野では、畳み込みニューラルネットワーク(CNN)からTransformerベースの手法への大きな変革が起こりました。しかし、Vision Transformerは多くのタスクで優れたグローバルコンテキストモデリング能力を示す一方で、その高い計算コストとメモリ要件により、特に高解像度画像を扱う場合、モバイルデバイスへの展開が困難です。低遅延と高効率を求めるモバイルデバイスに対応するため、研究者たちは局所注意機構、軸方向注意(Axial Attention)、動的グラフメッセージパッシングなどの軽量化手法を提案してきました。しかし、これらの方法でも高...

オブジェクト再識別のためのトランスフォーマー:調査

オブジェクト再識別のためのTransformer: サーベイ 背景と研究の重要性 オブジェクト再識別(Object Re-Identification、以下Re-ID)は、特定のオブジェクトを異なる時間やシーンで識別する重要なコンピュータビジョンタスクです。本分野は、畳み込みニューラルネットワーク(Convolutional Neural Networks, CNNs)をベースとした深層学習技術により大きな進展を遂げました。しかし、視覚Transformerの登場により、Re-ID研究は新たな局面を迎えています。本研究では、Transformerを用いたRe-ID技術を体系的にレビューし、画像/ビデオ、少データ/少アノテーション、多モーダル、特殊な応用シナリオでの利点と課題を分析します。 研...

タンパク質構造予測:課題、進展、そして研究パラダイムのシフト

タンパク質構造予測:課題、進歩、および研究パラダイムの変化 タンパク質構造予測は、生化学、医学、物理学、数学、コンピューターサイエンスなど多分野の研究者を引きつける重要な学際的研究課題です。研究者たちは同じ構造予測問題を解決するために様々な研究パラダイムを採用しています:生化学者と物理学者はタンパク質フォールディングの原理を解明しようとしています;数学者、特に統計学者は通常、与えられた目的配列のタンパク質構造の確率分布を仮定することから始め、最も可能性の高い構造を見つけます;一方、コンピューターサイエンティストはタンパク質構造予測を最適化問題として捉え、最低エネルギーを持つ構造コンフォメーションを見つけるか、予測構造と天然構造の間の差異を最小化しようとします。最近では、深層学習もタンパク質構...

全自動マルチモーダルMRIベースのマルチタスク学習によるグリオーマセグメンテーションとIDHジェノタイピング

全自動マルチモーダルMRIベースのマルチタスク学習によるグリオーマセグメンテーションとIDHジェノタイピング

全自動マルチモーダルMRI多タスク学習によるグリオーマ分割とIDH遺伝子分類の研究報告 研究背景 グリオーマは中枢神経系で最も一般的な原発性脳腫瘍で、世界保健機関(WHO)2016年分類によると、グリオーマは低悪性度グリオーマ(LGG、グレードIIおよびIII)と高悪性度グリオーマ(HGG、グレードIV)に分類されます。イソクエン酸デヒドロゲナーゼ(Isocitrate Dehydrogenase, IDH)変異の状態はグリオーマにおける最も重要な予後指標の一つです。臨床研究では、IDH変異を持つ低悪性度グリオーマ患者の予後は通常、野生型患者よりも良好であることがわかっています。従来のグリオーマの手動セグメンテーションは時間と労力を要するもので、正確なIDH遺伝子分類と正確なグリオーマ分割は...

トランスフォーマーベースのアプローチによるディープラーニングネットワークと時空間情報を組み合わせた生EEG分類

研究背景及目的 近年では、脳-コンピュータインタフェース(Brain-Computer Interface、BCI)システムが神経工学および神経科学の分野で広く応用され、脳波(Electroencephalogram、EEG)は中枢神経系の異なるニューロン集団の活動を反映するデータツールとして、これらの分野で重要な研究テーマとなっています。しかし、EEG信号は低空間分解能、高時間分解能、低信号対雑音比、および個体差が大きいという特徴があり、信号処理および正確な分類において大きな課題となっています。特に運動想像(Motor Imagery、MI)というEEG-BCIシステムの一般的なパラダイムにおいて、異なるMIタスクのEEG信号を正確に分類することは、BCIシステムの機能回復およびリハビリテ...