Fairness via Explanation Quality

Ce mémoire analyse l’intersection entre l’équité algorithmique et la qualité des explications dans les systèmes d’apprentissage automatique dans des contextes à enjeux élevés. Il étudie comment les contraintes d’équité appliquées aux modèles de boîte noire influencent les dispar-ités dans la qualité des explications post-hoc fournies à différents groupes démographiques. De plus, il explore l’impact d’une méthode de correction de modèles interprétables lorsqu’elle est utilisée pour corriger des modèles. La recherche repose sur deux études empiriques dis-tinctes. La première étude évalue systématiquement les disparités dans la qualité des expli-cations sous diverses contraintes d’équité, en utilisant trois jeux de données et deux types de modèles d’ensemble largement utilisés. L’étude démontre que les disparités dans la qualité des explications, mesurées selon des critères de fidélité, de consistance et de stabilité, persistent même lorsque des contraintes d’équité explicites sont intégrées dans la phase d’entraînement du modèle, et dans chaque combinaison d’ensembles de données. Cela indique que parvenir à l’équité au niveau des prédictions ne garantit pas nécessairement l’équité dans les explications générées. Les disparités observées varient également en fonction de la métrique d’équité adop-tée ainsi que de la méthode d’explication employée. La deuxième étude examine l’utilisation des Arbres de Correction Locaux (LCT) pour corriger de manière interpretable les modèles soumis aux changements de distribution. L’analyse montre qu’une légère augmentation de la tolérance à l’erreur de prédiction entraîne une augmentation substantielle du nombre de modèles jugés viables, augmentant ainsi leur diversité mais aussi la possibilité d’avoir des corrections arbitraires. Cela s’accompagne d’une augmentation notable de l’ambiguïté et de la divergence parmi les modèles candidats. En termes d’équité, l’étude démontre que même au sein de l’ensemble de Rashomon, les modèles présentent une large variabilité en matière d’équité des sous-groupes. De plus, l’examen des taux d’abstention révèle que l’efficacité du LCT à fournir des prédictions consistentes dépend largement de la structure des don-nées sous-jacentes. Ils soulignent la nécessité d’approches multi-objectifs qui intègrent la précision prédictive et l’équité entre groupes, tout en mettant en garde contre les risques associés aux sélections arbitraires parmi des modèles presque optimaux. L’étude fournit ainsi des preuves empiriques et des recommandations pratiques pour concevoir des systèmes d’apprentissage automatique transparents, équitables et contextuellement appropriés, qui répondent aux problèmes critiques rencontrés dans des applications réelles sensibles.