Améliorer la confiance envers les outils d'IA pour sécuriser les communications avioniques avec l'IA eXplicable

L’intégration de l’Intelligence Artificielle (IA) dans les systèmes avioniques, en particulier pour la détection d’intrusions (IDS), soulève un défi majeur : concilier performance algorithmique et transparence décisionnelle. Alors que le marché des systèmes avioniques intelligents devrait atteindre 10 milliards USD d’ici 2030, et que 78% des compagnies aériennes utilisent déjà des outils de cybersécurité intelligents, seulement 11% exploitent pleinement leurs données pour entraîner des modèles d’IA. Ce fossé s’explique par l’opacité des modèles complexes (LSTM, Transformers), qui, malgré leur précision, restent perçus comme des boîtes noires dans un domaine où 42% des erreurs humaines proviennent de décisions mal comprises. Ce mémoire explore comment l’IA eXplicable (XAI) peut renforcer la confiance dans les IDS avioniques en fournissant des explications interprétables aux opérateurs humains. L’utilisation de l’XAI dans un tel contexte est encore inédite et cette recherche vise à approfondir les tenants et les aboutissants d’une telle application. Nous proposons d’abord un cadre conceptuel structurant plusieurs concepts clés pour guider l’implémentation de l’XAI en contexte avionique. Ensuite, nous présentons un formalisme mathématique unifié évaluant des techniques comme SHAP et LIME, théoriquement stables et précises et adaptées aux contraintes de temps réel. Enfin, nous développons une méthodologie d’intégration testée sur deux scénarios puis évaluons sa viabilité à l’aide de métriques adéquates. Nos applications fournissent d’excellents résultats tant sur la capacité à obtenir des explications approfondies sur le fonctionnement du modèle, que sur le respect de celles-ci des critères d’évaluation exigés comme la robustesse ou la stabilité. L’utilisation de l’XAI peut effectivement améliorer la confiance dans les IDS dans un contexte avionique. Cependant, notre travail révèle également que les explications générées ne sont interprétables et utilisables que par des experts en analyse de données, ou dans le domaine considéré (avionique, cybersécurité). Ces explications nécessitent ainsi une analyse a posteriori avant de pouvoir être effectivement transmises aux utilisateurs comme les pilotes. Cette recherche ouvre la voie à un approfondissement et à une standardisation de l’XAI pour l’avionique, pour pouvoir répondre aux besoins opérationnels tout en fournissant des résultats utiles et justes.