長尾画像認識における単純性バイアスの深掘り

学術的背景と問題提起 近年、深層ニューラルネットワークは、画像認識、物体検出、セマンティックセグメンテーションなどのコンピュータビジョン分野で顕著な進展を遂げています。しかし、長尾分布(long-tailed distribution)データに直面した場合、最も先進的な深層モデルでさえも性能が低下します。長尾分布とは、データセット内の少数クラス(tail classes)のサンプル数が多数クラス(head classes)のサンプル数に比べてはるかに少ない状況を指します。このデータ不均衡問題は、パイプライン故障検出や顔認識などの多くの実用的なアプリケーションで普遍的に見られます。 長尾画像認識の主な課題は、データ不均衡問題を効果的に処理し、特に少数クラスの汎化性能を向上させることです。一般的...

高次幾何構造モデリングによる点群の教師なしドメイン適応

高次幾何構造モデリングに基づく点群の教師なし領域適応 研究背景と動機 点群データは3次元空間を表す重要なデータ形式であり、自動運転、リモートセンシングなどの現実世界のシナリオで広く利用されています。点群は正確な幾何情報を捉えることができますが、デバイス間またはシナリオ間で適用される際に、センサーのノイズ、サンプリング方法、環境の影響などによる幾何的な特性が顕著に変化する可能性があります。このような顕著な幾何変化(領域間ギャップ)は、ある領域で訓練されたニューラルネットワークが他の領域での性能を保持するのを困難にしています。この問題は、点群の深層学習手法の実際の応用での普及に制約を与えています。 現在、この問題の効果的な解決策として教師なし領域適応(Unsupervised Domain Ad...

CellMincerを使用した電圧イメージングデータのロバストな自己教師付きノイズ除去

学術的背景 電圧イメージング(voltage imaging)は、神経活動を研究するための強力な技術ですが、その有効性は低い信号対雑音比(SNR)によって制限されることが多いです。従来のノイズ除去方法、例えば行列分解は、ノイズと信号構造について厳密な仮定を課しますが、既存の深層学習アプローチは、電圧イメージングデータに固有の高速なダイナミクスと複雑な依存関係を完全に捉えることができませんでした。これらの問題を解決するために、本論文ではCellMincerという新しい自己教師あり深層学習手法を提案し、電圧イメージングデータセットのノイズ除去に特化しています。CellMincerは、短時間ウィンドウ内のスパースなピクセルセットをマスクして予測し、事前計算された時空間自己相関を組み合わせることで、...

深層学習による拡散モデルの最適化

深層学習による拡散モデルの最適化

Dimond: 深層学習による拡散モデルの最適化に関する研究 学術的背景 脳科学および臨床応用において、拡散磁気共鳴イメージング(Diffusion Magnetic Resonance Imaging, dMRI)は、非侵襲的に脳組織の微細構造や神経連結性を描くための重要なツールです。しかし、拡散信号モデルのパラメーターを正確に推定する計算コストは高く、画像ノイズの影響を受けやすいです。既存の多くの深層学習に基づく教師あり推定法は、効率と性能の向上の可能性を示していますが、これらの方法は通常追加のトレーニングデータを必要とし、汎化性が不足しているという問題があります。 論文の出典 この研究はZihan Li、Ziyu Li、Berkin Bilgic、Hong-Hsi Lee、Kui Yi...

幾何増強事前学習による原子間ポテンシャルへの応用

原子間相互作用力の幾何強化事前トレーニング はじめに 分子動力学(MD)シミュレーションは、物理学、化学、生物学、材料科学などの分野で重要な役割を果たし、原子レベルのプロセスの洞察を提供しています。MDシミュレーションの精度と効率は、分子系の原子間相互作用を記述する原子間ポテンシャル関数に依存しています。古典的MDでは経験式を使用し、パラメータを当てはめる必要がありますが、計算コストは低いものの精度が不十分です。一方、第一原理MDでは、シュレーディンガー方程式を解くことで精密な相互作用を得ることができますが、計算量が非常に大きくなります。そこで、機械学習による原子間ポテンシャル(MLIPs)が、第一原理計算から得られるエネルギーと力をフィッティングすることで、ab initio精度に近づきつ...