効率的なテンソル分解に基づくフィルタプルーニング

背景介紹 ネットワークプルーニング(Network Pruning)は、効率的な畳み込みニューラルネットワーク(CNNs)モデルを設計するための重要な技術です。メモリ使用量と計算要求を削減しつつ、全体的なパフォーマンスを維持または向上させることで、リソース制限のあるデバイス(携帯電話や組み込みシステムなど)でのCNNsの展開が実現可能になります。現在の仮定は、多くのモデルパラメータが過剰であり、大量の不必要または冗長なパラメータを含んでいるというもので、これらの冗長パラメータを削除することで、より小さくて効率的なモデルを生成できます。これはリソース制限のあるデバイスにだけでなく、場合によってはモデルの汎化能力を向上させることもあります。 既存のプルーニング手法の中で、フィルタープルーニング(...

複数の変数時系列異常検出のための二重メモリーモジュールを備えた堅牢なマルチスケール特徴抽出フレームワーク

複数の変数時系列異常検出のための二重メモリーモジュールを備えた堅牢なマルチスケール特徴抽出フレームワーク

深層学習技術の急速な発展に伴い、データマイニングと人工知能トレーニング技術の実際のアプリケーションにおける重要性が日々増しています。特に多変量時系列異常検出の分野では、既存の手法は優れた性能を示していますが、ノイズや汚染されたデータに直面した際には、依然として顕著な問題が存在します。これに基づき、本論文では、上記の課題を解決するための二重メモリモジュールを持つマルチスケール特徴抽出フレームワークを提案しています。 研究背景 多変量時系列(Multivariate Time Series, MTS)データは通常、IoT(モノのインターネット)アプリケーションにおける複数のセンサーのリアルタイムの動作状態を含みます。これらのデータを効果的に分析することで、隠れた情報を明らかにし、異常状況を予測し...

マルチドメイン適応のためのアクティブ動的加重

背景紹介 多源無監督ドメイン適応(Multi-source Unsupervised Domain Adaptation, MUDA)は、複数のラベル付きソースドメインからラベルなしのターゲットドメインへの知識転移を目的としています。しかし、既存の方法はソースドメインとターゲットドメインの分布の違いを処理する際に、異なる領域間の分布の混合や複数の単一ソースモデルの加重融合を単純に求めるだけで、ソースドメインおよびターゲットドメイン間のグローバルおよびローカル特徴分布の差異を深く考察していません。そこで、この問題を解決するために、本研究では新しい多源ドメイン適応の能動的動的加重(Active Dynamic Weighting, ADW)方法を提案します。 論文の出所 本研究は西安理工大学の劉...

時間遅延を伴う不確定な分数次反応拡散メムリスタ神経ネットワークのスライディングモード制御

不確実性を伴う分数階反応拡散メモリスタ神経ネットワークにおけるスライディングモード制御の応用 近年では、さまざまな分野で神経ネットワークの応用が広がる中、その制御と安定性の研究も注目を集めています。分数階(fractional-order, FO)メモリスタ神経ネットワーク(memristor neural networks, MNNs)は、生物の神経シナプスを模倣できるという特徴から、情報処理や学習などの面で独自の優位性を示しています。しかし、MNNsの応用にはシステムの不確実性、信号伝達の遅延、および複雑な時空間進展特性など、さまざまな課題があります。これらの要因はネットワークの不安定性や性能低下を引き起こす可能性があります。したがって、これらの問題を解決するための強いロバスト性を持つ制...

Fluidシミュレーションのための注意力ベースのデュアルパイプラインネットワークであるDualFluidNet

背景と研究動機 物理学において、流体の動きを理解することは、我々の環境を理解し、そこにどのように相互作用するかを理解するために不可欠です。しかし、従来の流体シミュレーション方法は高い計算要求のため、実際の応用において限界があります。近年、物理学駆動のニューラルネットワークは、複雑な自然現象を理解するための有望なデータ駆動型方法と見なされています。本論文の著者はスムースパーティクルハイドロダイナミクス(SPH)法に触発され、流体シミュレーションにおける全体制御と物理法則の制約との間のバランスの問題を解決するため、注意機構に基づく二重パイプラインネットワーク構造「DualFluidNet」を提案しました。 論文情報の出典 本論文は西安交通大学ソフトウェア工学学院のYu Chen、Shuai Zh...

合成支援プリトレーニングとパッチレベル特徴整合による多クラス子宮頸部病変細胞検出の蒸留

合成支援プリトレーニングとパッチレベル特徴整合による多クラス子宮頸部病変細胞検出の蒸留

合成支援の事前学習とパッチレベルの特徴アライメントによる多カテゴリ子宮頸部病変細胞検出の知識蒸留 背景と研究の意義 子宮頸癌は女性の生命と健康を深刻に脅かす疾患である。国際がん研究機関(IARC)のデータによると、2020年には世界で新たに約60.4万件の子宮頸癌の症例があり、約34.2万件の死亡例があった(Sung et al., 2021)。早期診断とスクリーニングは子宮頸癌を効果的に予防し、治療することができるが、診断の遅れは深刻な合併症や生命の危険のリスクを増加させる(Schiffman, Castle, Jeronimo, Rodriguez, & Wacholder, 2007)。現在、世界各地の健康組織は、子宮頸癌予防と治療の有効な方法として早期スクリーニングを推奨している(A...

サポートテンソルマシンの加速のための逐次安全静的および動的スクリーニングルール

在データ取得技術の絶え間ない発展によって、多様な特徴を含む大量の高次元データを取得することが非常に容易になっています。例えば、画像やビジュアルデータなどがそうです。しかし、従来の機械学習方法、特にベクトルや行列に基づく手法は、次元の災害、計算の複雑度の増加、およびモデルの過適合といった課題に直面しています。これらの問題を解決するために、テンソルという多次元配列の表現方法がベクトルや行列よりも柔軟性が高く、高次元データをうまく処理できるため、テンソルに基づく機械学習手法が学術研究の焦点となっています。 サポートテンソルマシン (Support Tensor Machine, STM) は効果的なテンソル分類手法であり、サポートベクトルマシン (Support Vector Machine, S...

メムリスタをベースとした適応型活性化関数を持つ異種ホップフィールドニューラルネットワークのダイナミクス

異種ホップフィールド神経ネットワークの研究:適応型活性化関数とメモリスタの結合による動的挙動解析 本研究は神経ネットワークにおける非線形要素がシステム動的挙動に与える影響を探討するものである。特に活性化関数とメモリスタ(memristor)が非線形要素として、カオスシステムの構築やシナプス行動の模擬に用いられることが多い。ホップフィールド神経ネットワーク(Hopfield Neural Network, HNN)は、その独特なネットワーク構造と複雑な脳様動態を生成する能力から、広範な注目を集めている。また、現在の研究は多くが固定活性化関数を使用した神経細胞のシステム動態への影響に集中しているが、異種の活性化関数組み合わせの研究は少ない。 本文は中華 王、春輝 梁、権利 鄧が執筆し、それぞれ湖...

低照度RGB-Tシーンにおける空間周波数手がかりによる顕著なオブジェクト検出

低照度RGB-Tシーンにおける空間周波数手がかりによる顕著なオブジェクト検出

空間-周波数手がかりの発掘方法による低照度RGB-Tシーンにおける顕著な目標検出 顕著な目標検出(Salient Object Detection, SOD)はコンピュータビジョンの分野で重要な位置を占めており、その主な任務は画像中で最も視覚的に魅力的な領域や物体を識別することです。この数十年で、SODモデルは正常な照明環境下である程度の進展を見せましたが、低光環境下では依然として厳しい課題に直面しています。低光環境下では、フォトンの不足により画像の詳細が欠落し、SODの性能が著しく影響を受けるためです。この課題は特に、インテリジェント監視や自動運転などの実際の応用において際立っています。 近年、RGB-T(可視光と熱赤外画像)システムは低光条件下で熱赤外の不変性という特性ゆえに、ますます多...

適応統合分解およびクロスモーダル注意融合に基づく電網障害診断フレームワーク

適応型統合分解とクロスモーダル注意融合に基づく電力網故障診断フレームワーク 研究背景 現代の電力システムの規模が拡大し複雑化する中で、電力網の安定運行はますます厳しい挑戦に直面しています。電力網の故障は自然災害、設備故障、局所的な電力網構造の脆弱性など複数の要因によって引き起こされる可能性があります。これらの故障は電力利用者の正常な業務に影響を与えるだけでなく、大規模な停電を引き起こし、重大な損失をもたらす可能性があります。米国エネルギー情報管理局のデータによれば、米国では年間平均500件以上の電力網故障が発生し、数百万の利用者に影響を与えています。中国では、電力網故障による年間平均電力損失は百億人民元を超えています。このように、迅速かつ正確に電力網故障の種類を検出し診断することは、電力シス...