Verifiability of Unlearning Schemes Through Local Explanation

À mesure que les systèmes d’Intelligence Artificielle (IA) s’intègrent de plus en plus aux applications du quotidien, les préoccupations liées à la confidentialité des données et au respect des lois sur le « Droit à l’oubli » se sont accrues de manière significative. Les modèles d’apprentissage automatique deviennent de plus en plus vulnérables aux attaques de confidentialité, telles que les attaques par inférence de membership ( ou Membership Inference Attacks, MIA) et les attaques par inversion de modèle, qui peuvent révéler des données sensibles utilisées lors de l’entraînement. Cela a conduit à une attention accrue envers le « désapprentissage » des modèles (connu sous Machine Unlearning, MU), un processus conçu pour éliminer sélectivement l’impact de certains points de données dans un modèle déjà entraîné. Le désapprentissage des modèles constitue un mécanisme essentiel pour répondre aux préoccupations de confidentialité et se conformer aux réglementations. Les méthodes traditionnelles de MU nécessitent souvent de réentraîner le modèle depuis le début, une approche lente et coûteuse. Les avancées récentes ont proposé des techniques alternatives de désapprentissage par réorganisation des données et manipulation des modèles, permettant d’assurer que certains points de données puissent être effectivement retirés d’un modèle d’apprentissage automatique sans recourir à un réentraînement coûteux. Cependant, une méthode de vérification fiable et explicable que le MU a effectivement eu lieu reste encore à explorer. Cette recherche propose une méthode de vérification novatrice basée sur l’explicabilité locale pour garantir que les opérations de désapprentissage soient à la fois efficaces et transparentes. Notre approche utilise des outils d’IA explicable, notamment les explications agnostiques et localement interprétables des modèles (LIME), afin d’évaluer si le désapprentissage a bien retiré les données sensibles sans compromettre l’intégrité du modèle. En capturant le comportement local des modèles avec et sans les données cibles, nous proposons un processus permettant de détecter les changements confirmant la suppression des informations sensibles. Cette méthodologie est structurée en trois phases : construction de modèles avec et sans les données cibles, validation du désapprentissage avec MIA, et application d’explications locales pour vérifier les résultats du désapprentissage. Cette recherche contribue à renforcer la fiabilité, la transparence et le comportement des modèles d’apprentissage automatique, tout en faisant progresser le domaine du désapprentissage des modèles en introduisant l’interprétabilité et l’explicabilité. Notre méthode se concentre non seulement sur la comparaison de différentes techniques de désapprentissage, mais fournit également des explications claires, garantissant que les utilisateurs puissent comprendre et faire confiance au processus. Nous fournissons des preuves de la vérification de l’oubli localement grâce à l’analyse de la redistribution de l’importance des caractéristiques à l’aide de LIME. Nous nous concentrons sur la vérification de l’oubli réussi en fournissant des preuves basées sur des techniques d’approximation locale utilisant la redistribution de l’importance des caractéristiques.