ハードウェア互換の摂動トレーニングアルゴリズムのスケーリング

人工知能(AI)技術の急速な発展に伴い、人工ニューラルネットワーク(Artificial Neural Networks, ANNs)は多くの分野で顕著な成果を上げています。しかし、従来のニューラルネットワークのトレーニング方法、特にバックプロパゲーション(Backpropagation)アルゴリズムは、ハードウェア実装において多くの課題を抱えています。バックプロパゲーションアルゴリズムはソフトウェアでは効率的ですが、ハードウェアで実装する場合、計算パスが可逆であること、各ニューロンに大量のメモリが必要であること、活性化関数の導関数を計算する必要があることなど、これらの条件をハードウェアで満たすことは困難です。さらに、従来のCMOS(Complementary Metal-Oxide-Sem...

レジスティブメモリベースのゼロショット液体状態機械による多モーダルイベントデータ学習

新型抵抗変化メモリ駆動のゼロショット多モーダルイベント学習システム:ハードウェア-ソフトウェア協調設計の研究報告 学術的背景 人間の脳は複雑なスパイキングニューラルネットワーク(Spiking Neural Network, SNN)であり、極めて低い消費電力で多モーダル信号においてゼロショット学習(Zero-shot Learning)を行う能力を持っています。これは既存の知識を一般化して新しいタスクに対処する能力です。しかし、この能力をニューロモルフィックハードウェアに複製するには、ハードウェアとソフトウェアの両面で課題があります。ハードウェア面では、ムーアの法則の減速とフォン・ノイマンボトルネック(von Neumann bottleneck)が従来のデジタルコンピュータの効率を制限し...