概念化を通じた抽象的な常識知識の獲得とモデリング

導入 人工知能システムが常識知識を欠いていることは、その分野の発展を制約する主な障害の1つでした。近年、ニューラル言語モデルと常識知識グラフによって長足の進歩が得られたものの、人間の知性の重要な構成要素である「概念化」は人工知能システムにうまく反映されていませんでした。人間は、具体的な事物や状況を抽象概念に概念化し、その上で推論することで、世界中の無限の実体や状況を取得し理解しています。しかし、有限の知識グラフでは現実世界の多種多様な実体や状況をカバーできず、それらの関係や推論はおろか話になりません。 本研究では、常識推論における概念化の役割を深く探求し、人間の概念化過程をシミュレートするフレームワークを構築しました。既存の状況常識知識グラフから抽象概念に関する事象知識や、それらの抽象概念に...

イベント抽出のための多重グラフ表現

背景紹介: イベント抽出は自然言語処理分野の人気のあるタスクであり、与えられたテキストからイベントトリガー語とその関連する論点を特定することを目的としています。このタスクは通常、イベント検出(イベントトリガー語の抽出)と論点抽出の2つのサブタスクに分かれています。従来のパイプラインアプローチではこの2つのサブタスクを別々に実行していましたが、エラーの伝搬が問題となっていました。近年、jointモデルが注目を集め、2つのサブタスクを統一して学習することができ、エラー伝搬を回避できますが、引き続き論点の多重利用(argument multiplexing)の問題を無視していました。 論文概要: 本論文では、マルチグラフ表現に基づくイベント抽出フレームワークを提案しています。マルチグラフでは2つの...

オープンワールドにおける新奇事象を扱うための神経記号認知アーキテクチャフレームワーク

オープンワールドにおける新奇事象を扱うための神経記号認知アーキテクチャフレームワーク

開放世界における新規事象を処理するための神経記号認知アーキテクチャフレームワーク 論文の背景 従来の人工知能研究では、知能体が「閉鎖世界」で動作すると仮定されており、つまり環境内のタスクに関連するすべての概念が既知であり、新しい未知の状況が発生しないと考えられていました。しかし、開かれた現実世界では、知能体の事前知識に反する新規の事象が必ず発生します。本論文では、新規事象を検出し対応する能力を知能体に与える新しいハイブリッド神経記号推論アーキテクチャを提案しており、開かれた世界でタスクを完了することができます。 新規事象の定義 本論文では、新規事象を知能体に関連する概念と見なしています。知能体がその知識ベースから特定の事象の表現を導出できない場合、その事象は知能体にとって新規のものとなります...

オープンワールドイベントへの適応のためのモビリティネットワーク上での時空間ダイナミクスの学習

移動ネットワークの時空動態を学習して開かれた世界のイベントに適応する 研究背景 現代社会のモビリティ・アズ・ア・サービス(MaaS)システムは、公共交通機関、ライドシェアリング、シェアリング自転車などの様々な交通手段が無縫に統合されています。MaaSの効率的な運営を実現するには、マルチモーダル移動ネットワークの時空動態のモデル化が不可欠です。しかし、従来の手法は、異なる交通手段間の相互作用を暗黙的に扱うか、その相互作用が不変であると仮定しています。さらに、休日、悪天候、パンデミックなどの開かれた世界のイベントが発生すると、群集の移動行動がその通常のパターンから大きく逸脱する可能性があり、このモデリングタスクをより難しくしています。 論文の出典 本論文は、イリノイ大学アーバナ・シャンペーン校の...

ロジスティック関数の双曲線正接表現:CTくも膜下出血検出のための確率的マルチインスタンス学習への適用

人工知能分野には長年にわたって「弱教師あり学習」の問題がありました。つまり、訓練データにおいて、一部分のラベルのみが観測可能で、残りのラベルは未知です。多インスタンス学習(Multiple Instance Learning、略してMIL)は、この問題を解決する1つのパラダイムです。MILでは、訓練データがいくつかの「バッグ」(bag)に分けられており、各バッグには複数のインスタンス(instance)が含まれています。私たちはバッグのラベルのみを観測できますが、個々のインスタンスのラベルを知ることはできません。MILの目標は、バッグのラベルに基づいて、新しいバッグとそれに含まれるインスタンスのラベルを予測することです。 MILパラダイムは様々な科学分野で広く応用されており、特に医療画像分野...

強化学習における神経網表現の性質の調査

強化学習における神経網表現の性質の調査

伝統的な表現学習手法は、通常、正規性、疎性などの望ましい性質を達成するために、固定の基底関数アーキテクチャを設計します。一方、深層強化学習の考え方は、設計者が表現の性質をコーディングするのではなく、データの流れが表現の性質を決定し、適切な訓練スキームの下で良い表現が自発的に現れるようにすることです。 この研究では、深層強化学習システムで学習された表現(representation)の性質を探求しています。この研究は、2つの観点を組み合わせ、実証分析を通じて、強化学習におけるスムーズな転移を促進する表現の性質を探索しています。著者らは6種類の表現特性を提案し、25,000以上のエージェント設定タスクで評価を行いました。彼らは、ピクセルベースのナビゲーション環境で、ソースタスクと転移タスクが異な...

モデルベース診断における重要な観察

このレポートでは、モデルベースの故障診断において、システムの異常の原因となる重要な観測データを特定する枠組みとアルゴリズムが紹介されています。この枠組みでは、元の観測データを「部分観測」に抽象化することで、診断結果に不可欠な観測を特定します。「重要な部分観測」とは、最大限に抽象化した後でも、元の観測と同じ最小診断集合を導出できる最小のものと定義されています。 この研究は、オーストラリア科学産業研究機構のデータ61センターのCody James Christopherと、フランス原子力・代替エネルギー庁のAlban Grastienの2人の著者によって行われ、2024年の人工知能ジャーナルに掲載されました。 研究者たちは最初に、モデルベース診断の基本的な枠組みと概念を説明しています。この枠組み...

グラフニューラルネットワークにおける分極メッセージパッシング

グラフニューラルネットワークにおける分極メッセージパッシング

グラフ構造データが様々な分野で広く応用されるにつれ、グラフデータを分析するための強力なツールであるグラフニューラルネットワーク(GNN)が注目されています。しかし、既存のGNNは、ノード表現を学習する際に、主に近傍ノードの類似性情報に依存しており、ノード間の差異性の潜在的可能性を無視しています。最近、新しい「極性メッセージ伝搬」(Polarized message-passing、PMP)パラダイムが登場し、GNNの設計に全く新しいアイデアを注入しました。 研究背景:従来のGNNは、ターゲットノードの表現を学習するために、近傍ノードの特徴を集約していますが、ノード間の類似性のみを考慮し、ノード差異に含まれる豊富な情報を十分に利用していませんでした。実際、現実世界のグラフデータには、「友人のパ...

ショウジョウバエの再帰的回路からのヒュー選択性

果蝇視覚系における色相選択性の回路メカニズム 色の知覚は視覚体験の重要な側面であり、生物個体と外界環境の相互作用において重要な役割を果たしています。ヒトなどの3種類の感光細胞型の霊長類動物では、視皮質に特定の色相(青、青緑、オレンジ色など)および非スペクトル色(紫やマゼンタなど)に選択的に反応する神経細胞が存在することが発見されています。しかし、この色相選択性応答の神経回路基盤は長らく明らかにされていませんでした。 最新号の『Nature Neuroscience』誌に掲載された研究では、コロンビア大学のRudy Behnia研究室が、遺伝的操作が容易なモデル生物であるショウジョウバエを利用して、その視覚系に色相選択性神経細胞が存在することを発見し、この色相選択性応答を生み出す神経回路メカニ...

スライステンソル成分分析による神経サブスペース以上の次元削減

背景紹介: 大規模ニューロン記録データは通常、ニューロン同時活性化パターンで記述することができます。しかし、ニューロン活動の変動を固定された低次元部分空間に制限するという観点では、固定されたニューロンシーケンスや緩やかに進化する潜在空間などのより高次元の構造が見落とされる可能性があります。本研究では、ニューロンデータにおけるタスク関連の可変性も、試行やタイミングの上で共変動し、異なる「共変性クラス」(covariability classes)を定義することができ、これらのクラスが同一データセットに同時に存在する可能性があると考えています。 研究動機: 従来の次元削減手法(主成分分析(PCA)など)は通常、単一の共変性クラスしかキャプチャできません。混在する複数の共変性クラスを区別するために...