低ランクテンソル空間におけるグローバルプロンプトの学習と異種フェデレーテッドラーニング
学術的背景 人工知能(AI)モデルの複雑化とデータプライバシー保護の必要性が高まる中、連邦学習(Federated Learning, FL)は分散型機械学習のパラダイムとして研究の焦点となっています。連邦学習は、複数のクライアントがローカルデータを共有することなく、グローバルモデルを協調的に訓練することを可能にし、データプライバシーを保護しながらモデルの汎化能力を向上させます。しかし、連邦学習は実際の応用において以下の3つの課題に直面しています:1)モデルパラメータが多すぎるために通信負荷が大きい、2)非独立同分布(Non-IID)データによりグローバルモデルの性能が低下する、3)モデルの異質性により従来の連邦集約方法が機能しない。 これらの問題を解決するため、本論文ではFedGPTという...