ディープラーニングモデルによるセマンティック飽和のメカニズムの解明

ディープラーニングモデルによるセマンティック飽和のメカニズムの解明

ディープラーニングモデルが意味飽和メカニズムを解明 意味飽和(semantic satiation)は、ある単語やフレーズが何度も繰り返されることでその意味が失われる現象であり、よく知られた心理学的現象です。しかし、このメカニズムを引き起こす微視的な神経計算の原理は依然として未知です。本稿では、連続結合ニューラルネットワーク(continuous coupled neural network, CCNN)を使用してディープラーニングモデルを構築し、意味飽和のメカニズムを研究し、ニューロンの成分でこのプロセスを正確に記述します。研究結果は、中観的な視点から見ると、意味飽和は自下から上へのプロセスである可能性があり、既存のマクロな心理学研究が意味飽和を自上から下へのプロセスと見なしているのとは異...

非対称制約ゼロサムゲームのためのニューラルクリティック技術を統合した高度な最適追跡

学術報告:先進最適追跡と神経ネットワーク評価技術の統合による非対称制約ゼロサムゲームの研究 背景と研究課題 現代の制御分野において、ゲーム理論は、少なくとも二人のプレイヤーの相互決定問題を含む、知的意思決定者間の競争と協力を研究する数学モデルである。近年、微分ゲームは制御分野でますます注目を集めている。複雑な外乱システムの最適制御問題に直面する際、通常これをゼロサムゲーム(Zero-Sum Game, ZSG)と見なす。システムの制御問題が異なる制御戦略を含み、外乱がない場合、非ゼロサムゲーム(Non-ZSG)と呼ばれる。しかし、実際のシステムには様々な外乱が存在するため、外乱がシステム性能に与える影響を軽減するために、ZSG問題をさらに考慮することが非常に重要である。 特に連続時間(Con...

Fluidシミュレーションのための注意力ベースのデュアルパイプラインネットワークであるDualFluidNet

背景と研究動機 物理学において、流体の動きを理解することは、我々の環境を理解し、そこにどのように相互作用するかを理解するために不可欠です。しかし、従来の流体シミュレーション方法は高い計算要求のため、実際の応用において限界があります。近年、物理学駆動のニューラルネットワークは、複雑な自然現象を理解するための有望なデータ駆動型方法と見なされています。本論文の著者はスムースパーティクルハイドロダイナミクス(SPH)法に触発され、流体シミュレーションにおける全体制御と物理法則の制約との間のバランスの問題を解決するため、注意機構に基づく二重パイプラインネットワーク構造「DualFluidNet」を提案しました。 論文情報の出典 本論文は西安交通大学ソフトウェア工学学院のYu Chen、Shuai Zh...

適応的に適切でない領域を特定および改善して正確なステレオマッチングを実現する

適応的に適切でない領域を特定および改善して正確なステレオマッチングを実現する

不良領域を適応的に識別および最適化して正確なステレオマッチングを実現 研究の背景と動機 コンピュータービジョン技術の急速な発展に伴い、ステレオマッチング技術はその高い精度、コスト効率、および非侵入性から、ロボティクス、宇宙、自動運転、産業製造など多くの分野で重要な役割を果たしています。しかし、オクルージョン領域やぼやけた領域を処理する際、ピクセル間の一致制約が信頼できなくなり、対応関係の探索が困難になります。そのため、畳み込みニューラルネットワーク(CNN)やトランスフォーマーベースの研究が急速に進展しているにもかかわらず、多くの方法が不良領域の処理において性能のボトルネックに直面しています。この課題に対処するため、研究チームはエラー領域特徴最適化メカニズムを導入して文脈特徴を提供し、不良領...

経済意思決定理論における機械学習データセットバイアスのモデリング

背景紹介 長期にわたり、規範的(nomative)および記述的(descriptive)モデルは、人間が商品やギャンブルなどのリスク選択に直面したときの意思決定行動を説明し予測しようとしてきました。最近の研究では、新しい大規模なオンラインデータセットchoices13kを使ってニューラルネットワーク(Neural Networks, NNs)を訓練し、より正確な人間の意思決定モデルを発見しました。本研究では異なるモデルとデータセット間の関係を系統的に分析し、データセットバイアス(dataset bias)の証拠を発見しました。研究は、データセットchoices13kにおけるランダムなギャンブル選択の傾向が平衡化していることを示し、これが増加した意思決定ノイズを反映している可能性があることを示...

医療履歴は現象全体の疾患発症を予測し、新たな健康脅威への迅速な対応を可能にする

医療記録を使用した広範な病気の発生予測と新たな健康脅威への迅速な対応支援 研究背景と動機 新型コロナウイルス感染症の流行は、グローバルなシステムの欠陥やデータ駆動型の指針の欠如を露呈し、高リスク群の識別およびパンデミックの準備に重大な影響を与えました。個々の未来の病気リスク評価は、予防介入、早期疾患検出、および治療開始において重要です。しかし、共通する疾患については、特定のリスクスコアがあるのは一部に過ぎず、多くの関連疾患に対する医療提供者や個人の指針は不足しています。定められたリスクスコアが存在する場合でも、どのスコアを使用するかや関連する生理学的あるいは実験室測定についてのコンセンサスが欠如しており、日常的な医療実践が高度に断片化しています。特に新型コロナウイルス感染症の初期段階では、利...

深層学習による拡散モデルの最適化

深層学習による拡散モデルの最適化

Dimond: 深層学習による拡散モデルの最適化に関する研究 学術的背景 脳科学および臨床応用において、拡散磁気共鳴イメージング(Diffusion Magnetic Resonance Imaging, dMRI)は、非侵襲的に脳組織の微細構造や神経連結性を描くための重要なツールです。しかし、拡散信号モデルのパラメーターを正確に推定する計算コストは高く、画像ノイズの影響を受けやすいです。既存の多くの深層学習に基づく教師あり推定法は、効率と性能の向上の可能性を示していますが、これらの方法は通常追加のトレーニングデータを必要とし、汎化性が不足しているという問題があります。 論文の出典 この研究はZihan Li、Ziyu Li、Berkin Bilgic、Hong-Hsi Lee、Kui Yi...

概念化を通じた抽象的な常識知識の獲得とモデリング

導入 人工知能システムが常識知識を欠いていることは、その分野の発展を制約する主な障害の1つでした。近年、ニューラル言語モデルと常識知識グラフによって長足の進歩が得られたものの、人間の知性の重要な構成要素である「概念化」は人工知能システムにうまく反映されていませんでした。人間は、具体的な事物や状況を抽象概念に概念化し、その上で推論することで、世界中の無限の実体や状況を取得し理解しています。しかし、有限の知識グラフでは現実世界の多種多様な実体や状況をカバーできず、それらの関係や推論はおろか話になりません。 本研究では、常識推論における概念化の役割を深く探求し、人間の概念化過程をシミュレートするフレームワークを構築しました。既存の状況常識知識グラフから抽象概念に関する事象知識や、それらの抽象概念に...

強化学習における神経網表現の性質の調査

強化学習における神経網表現の性質の調査

伝統的な表現学習手法は、通常、正規性、疎性などの望ましい性質を達成するために、固定の基底関数アーキテクチャを設計します。一方、深層強化学習の考え方は、設計者が表現の性質をコーディングするのではなく、データの流れが表現の性質を決定し、適切な訓練スキームの下で良い表現が自発的に現れるようにすることです。 この研究では、深層強化学習システムで学習された表現(representation)の性質を探求しています。この研究は、2つの観点を組み合わせ、実証分析を通じて、強化学習におけるスムーズな転移を促進する表現の性質を探索しています。著者らは6種類の表現特性を提案し、25,000以上のエージェント設定タスクで評価を行いました。彼らは、ピクセルベースのナビゲーション環境で、ソースタスクと転移タスクが異な...