Trustworthy Additive Explanations of Machine Learning Models through Increased Alignment

Nous vivons présentement une révolution numérique. Grâce aux avancées technologiques liées à la puissance de calcul et l’emmagasinage de données, il est désormais possible d’automatiser de nombreuses tâches. Exploiter le plein potentiel des données a demandé un changement de paradigme vers l’Apprentissage Automatique (AA). Concrètement, plutôt que de manuellement encoder la logique d’un programme, on laisse un Algorithme d’Apprentissage déterminer le bon programme (ou prédicteur) à partir des données collectées. La forte dépendance envers les données apporte de nouveaux risques. Par exemple, si les données sont biaisées ou non représentatives, le prédicteur appris exhibera ces biais. Puisque la plupart des prédicteurs fournis par des algorithmes d’apprentissages sont des boites noires, il est difficile de déterminer si les modèles ont appris les bons patrons. Le champ de l’Intelligence Artificielle eXpliquable (XAI) a développé des mécanismes pour “expliquer” les comportements des boites noires. La promesse de ces techniques est qu’elles pourront aider un praticien à déterminer si le modèle a appris les bons patrons et qu’il ne contient pas de biais indésirables. Alors que le XAI a maturé au point de fournir une variété de techniques aux développeurs, la difficulté d’évaluer ces méthodes est devenue apparente. En effet, puisque le prédicteur est une boite-noire, il n’y a pas de réponse de référence pour l’explication de ces décisions. Sans réponse de référence, un praticien n’a pas de manière systématique de décider quelle explication est la bonne quand diverses techniques se contredisent. Pour contrer cette limitation, nombreux chercheurs développent des métriques de qualités sur les explications. À mon avis, cette direction de recherche n’a pas encore porté fruit, car le choix des bonnes métriques de qualités n’a pas encore été déterminé. De plus, il a été démontré expérimentalement que les métriques existantes sont inconsistantes : le choix de la meilleure explication dépend grandement de la métrique choisie. Nous proposons une solution alternative au manque de réponse de référence en explicabilité. Notamment, nous proposons d’aligner les méthodes plutôt que de les comparer. Plus précisément, nous démontrons que toutes les techniques d’explicabilité peuvent être exprimées dans un cadre théorique uniforme. À travers ce cadre théorique, la raison des désaccords devient apparente. De plus, la théorie prédit que, quand toutes les techniques s’accordent, alors elles coïncident avec une explication sensée (celle d’un modèle additif). Ceci prouve qu’aligner les techniques d’explications est une méthodologie viable pour obtenir une réponse de référence. Il est finalement démontré théoriquement et empiriquement comment réduire les désaccords entre les explications, permettant d’obtenir des explications fiables.