Systèmes hybrides logiques-continus et auto-antagonistes pour l'apprentissage machine en présence d'un adversaire

Certaines tâches cognitives extrêmement simples pour des humains ne peuvent être automatisées avec les principes classiques de programmation. La vision par ordinateur, par exemple, ne saurait être programmée avec des règles impératives : personne ne peut donner de règles précises et simples à une machine pour détecter un chat dans une image, car des milliers de conditions différentes pourraient rendre la règle caduque : présence partielle du chat, surexposition de l'image, races de chat diverses... Pour pallier ce manque, l'Intelligence Artificielle simule les effets les plus basiques de l'intelligence humaine. Il est possible d'automatiser des tâches cognitives de base, comme reconnaissance de la parole, des visages... Il y a quelques années, les réseaux de neurones profonds ont commencé à se démarquer. Depuis lors, les réseaux de neurones profonds et les algorithmes d'Intelligence Artificielle de nouvelle génération sont en passe de lancer une nouvelle révolution industrielle. Ces systèmes permettent d'appendre une approximation du comportement désiré à partir d'un ensemble de données d'entraînement et dépassent à l'heure actuelle les performances humaines sur certaines tâches précises. Mais ces systèmes présentent des failles : Les réseaux de neurones peuvent émettre de fausses valeurs quand ils sont soumis à des données empoisonnées par un adversaire malveillant, autant dans leur phase l'entraînement que dans leur phase d'inférence.