制限付きボルツマンマシンにおけるデータセットフリーの重み初期化

統計力学的分析に基づく制限付きボルツマンマシンの重み初期化手法の研究 学術的背景 深層学習において、ニューラルネットワークの重み初期化はモデルの学習効果に大きな影響を与えます。特に、フィードフォワードニューラルネットワーク(feed-forward neural networks)では、LeCun、Xavier(またはGlorot)、He初期化など、データセットに依存しない重み初期化手法が提案されています。これらの手法は、特定の分布(例えばガウス分布や一様分布)に基づいて重みパラメータの初期値をランダムに決定し、トレーニングデータセットを使用しません。しかし、制限付きボルツマンマシン(Restricted Boltzmann Machine, RBM)では、同様の重み初期化手法はまだ開発され...