Passage de messages polarisés dans les réseaux neuronaux de graphes

Avec l’application généralisée des données de structures de graphes dans de nombreux domaines, les réseaux neuronaux de graphes (GNN) en tant qu’outil puissant pour analyser les données de graphes ont suscité beaucoup d’attention. Cependant, les GNN existants s’appuient principalement sur les informations de similarité des nœuds voisins lors de l’apprentissage des représentations de nœuds, ignorant ainsi le potentiel de la différence entre les nœuds. Récemment, un nouveau paradigme novateur de “passage de messages polarisé” (Polarized message-passing, PMP) est apparu, injectant une nouvelle idée dans la conception des GNN.

Contexte de la recherche : Les GNN traditionnels apprennent les représentations des nœuds cibles en agrégeant les caractéristiques des nœuds voisins, mais ne considèrent que la similarité entre les nœuds, sans exploiter pleinement les informations riches contenues dans les différences entre les nœuds. En fait, les données de graphes du monde réel présentent généralement des phénomènes tels que le “paradoxe de l’amitié” et le “déséquilibre de l’influence”, reflétant la nature unique des nœuds dans le graphe. À la lumière de cela, cette recherche propose le paradigme PMP, visant à capturer à la fois les informations de similarité et de différence entre les nœuds, améliorant ainsi la capacité d’apprentissage des représentations des GNN.

Institutions de recherche : Cette recherche a été menée conjointement par des chercheurs de l’Agence pour la Science, la Technologie et la Recherche de Singapour, de l’Université Baptiste de Hong Kong, de l’Université des Postes et Télécommunications de Pékin, de l’Université du Sud-Ouest, entre autres. L’article a été publié dans la revue de premier plan “Artificial Intelligence” en 2024.

Contenu de la recherche : a) Processus de recherche - Pour chaque couche du GNN, PMP construit d’abord deux matrices d’apprentissage, quantifiant respectivement la pertinence et la différence entre les nœuds. - Ensuite, PMP fusionne les deux matrices par une opération exponentielle pour obtenir une matrice de poids de message polarisé, utilisée pour combiner les caractéristiques des nœuds voisins. - Finalement, la représentation du nœud cible est construite par l’agrégation de ses propres caractéristiques et des caractéristiques des voisins pondérées par la matrice de poids.

b) Résultats principaux - L’analyse théorique prouve que le paradigme PMP confère aux GNN une capacité d’expression plus puissante, capable de capturer efficacement l’hétérogénéité des nœuds dans les données de graphes. - Trois nouveaux GNN novateurs sont proposés sur la base de PMP : PMP-GCN, PMP-GAT et PMP-GPN. - Sur 12 jeux de données du monde réel et 5 tâches en aval, les trois PMP-GNN proposés surpassent les modèles GNN courants.

c) Importance de la recherche - Le paradigme PMP, en exploitant judicieusement les informations de différence entre les nœuds, aide les GNN à apprendre des représentations de nœuds plus expressives. - Les nouveaux modèles PMP-GNN offrent d’excellentes performances dans divers scénarios d’application, ouvrant de nouvelles perspectives pour l’analyse des données de graphes. - Cette recherche fournit une nouvelle approche pour la conception des GNN, susceptible de stimuler des applications innovantes des GNN dans l’exploration des données de graphes complexes.

d) Innovations de la recherche - C’est la première fois que les informations de différence entre les nœuds sont intégrées dans le paradigme de passage de messages des GNN. - Le paradigme PMP novateur est proposé pour résoudre les limites des GNN existants qui n’exploitent que la similarité entre les nœuds. - Trois GNN innovants basés sur PMP sont inventés, offrant une capacité d’expression et une robustesse renforcées.

Le paradigme PMP intègre de manière novatrice les informations de différence entre les nœuds dans le processus d’apprentissage des représentations des GNN, élargissant les perspectives d’application des GNN et propulsant le développement théorique et pratique dans le domaine de l’exploration des graphes.