Évaluation fiable des cartes d’attribution dans les CNNs : une approche basée sur les perturbations

Contexte et motivation de la recherche

Avec le succès croissant des modèles d’apprentissage profond dans diverses tâches, la communauté scientifique met de plus en plus l’accent sur leur explicabilité et leur transparence. Bien que ces modèles excellent en termes de précision, leur processus décisionnel reste difficilement interprétable. Cette limitation entrave leur adoption dans des applications pratiques où la robustesse, les estimations d’incertitude et la compréhension des décisions sont essentielles.

Dans le domaine de la vision par ordinateur, les méthodes d’attribution jouent un rôle clé pour expliquer les décisions des réseaux neuronaux profonds (CNN). Ces méthodes génèrent des cartes d’attribution (Attribution Maps, AMs) qui mettent en évidence les régions d’une image ayant le plus contribué à la décision du modèle. Cependant, en raison de leur nature qualitative, il reste difficile d’évaluer leur efficacité de manière quantitative. Cette étude vise à résoudre ces problèmes d’évaluation pour renforcer l’explicabilité des modèles d’apprentissage profond.

Origine et informations sur les auteurs

Cet article, intitulé “Reliable Evaluation of Attribution Maps in CNNs: A Perturbation-Based Approach”, est publié dans International Journal of Computer Vision. Les auteurs Lars Nieradzik, Henrike Stephani et Janis Keuper sont affiliés respectivement au Fraunhofer ITWM et à l’université Offenburg en Allemagne. L’article a été reçu le 8 septembre 2023 et accepté le 20 octobre 2024.

---

Méthodologie et déroulement de l’étude

1. Problématique

L’article aborde les questions fondamentales suivantes : 1. Comment évaluer objectivement la validité des cartes d’attribution ? 2. Comment comparer les performances de multiples méthodes d’attribution ? 3. Quelle méthode d’attribution choisir pour une question de recherche ou un objectif de développement spécifiques ?

Pour répondre à ces questions, l’étude propose une méthode quantitative novatrice basée sur des perturbations, avec des contributions principales : - Remplacement des modifications pixelaires des méthodes insertion/suppression par des perturbations adversariales pour résoudre les biais de distribution. - Évaluation quantitative et qualitative exhaustive de 16 méthodes d’attribution sur 15 combinaisons modèle-données. - Validation de la fiabilité de cette méthode via des mesures de corrélation de Kendall (τ), de lissage et de monotonie.

2. Conception et déroulement des expériences

Choix des ensembles de données et modèles

Les auteurs ont utilisé des ensembles de données variés, notamment ImageNet, Oxford-IIIT Pet et ChestX-Ray8, combinés à cinq architectures de CNN, telles que ResNet-50 et EfficientNet-B0, pour constituer 15 combinaisons modèle-données uniques. Cela garantit une grande généralisabilité des résultats.

Sélection des méthodes d’attribution

L’étude inclut 16 méthodes courantes, notamment Grad-CAM, SmoothGrad et Integrated Gradients, regroupées en trois catégories : méthodes par rétropropagation complète, méthodes par chemin et cartes d’activation de classe (CAM).

Limites des méthodes existantes

Les méthodes insertion/suppression introduisent un biais de distribution significatif en modifiant drastiquement les pixels d’entrée, rendant les métriques peu fiables.

Nouvelle approche basée sur les perturbations

La méthode propose l’utilisation de perturbations adversariales pour évaluer les cartes d’attribution : 1. Une méthode d’attaque basée sur les gradients (Fast Gradient Sign Method, FGSM) est utilisée pour générer des images perturbées. 2. Les perturbations sont progressivement éliminées pour observer la rapidité de récupération de la probabilité initiale. Une récupération rapide indique une carte d’attribution précise.

---

Résultats expérimentaux et principales conclusions

1. Évaluation quantitative globale

Cohérence des résultats

L’utilisation de la corrélation de Kendall (τ) pour comparer les classements des méthodes sur différentes combinaisons modèle-données montre que la nouvelle méthode est la plus cohérente ($τ = 0,466$), surpassant les méthodes insertion/suppression.

Lissage et monotonie

La méthode se distingue par une monotonie de 96,7 % et un score de lissage supérieur, garantissant des courbes plus stables et sans fluctuations aléatoires.

2. Tests de référence

Deux méthodes de référence, Uniform (distribution aléatoire) et Canny (détection de contours), simulent des cartes d’attribution basiques. Seule la nouvelle méthode place systématiquement ces baselines en fin de classement, prouvant sa fiabilité.

3. Performance des méthodes d’attribution

SmoothGrad se révèle être la meilleure méthode pour la plupart des cas. Toutefois, les auteurs recommandent Grad-CAM++ ou Reciprocity-CAM comme alternatives plus robustes lorsque le bruit devient problématique.

---

Portée et perspectives

Valeur scientifique

1. Proposition d’une nouvelle méthode robuste pour évaluer les cartes d’attribution, résolvant les biais de distribution.
2. Généralisation possible à divers modèles et tâches, renforçant l’explicabilité dans plusieurs domaines.

Impact pratique

1. En médecine, la nouvelle méthode pourrait améliorer la fiabilité des systèmes d’aide à la décision basés sur l’analyse d’images.
2. Compatibilité avec des architectures émergentes, comme les transformateurs.

Limites

1. Les tâches où l’absence d’un objet influence la décision du modèle ne peuvent pas être traitées efficacement par cette méthode.
2. Bien que 16 méthodes aient été testées, d’autres approches de boîte noire pourraient être explorées.

Futures recherches

1. Application à des ensembles de données plus complexes ou à des architectures comme les modèles séquentiels.
2. Optimisation de l’efficacité des perturbations adversariales pour des évaluations à grande échelle.

---

Conclusion

Cette étude introduit une méthode innovante basée sur les perturbations pour évaluer les cartes d’attribution dans les CNNs, offrant une avancée significative dans l’explicabilité des modèles d’apprentissage profond. En réduisant les biais de distribution et en améliorant la fiabilité, cette méthode ouvre la voie à des applications plus crédibles et généralisables des méthodes d’attribution.