Operational Knowledge Distillation for Efficient Testing and Enhancement of Autonomous Robotic Systems

Les systèmes robotiques autonomes modernes, tels que les voitures autonomes et les véhicules aériens sans pilote, sont hautement complexes et intègrent des composants matériels, logiciels et d’apprentissage automatique qui interagissent au sein d’environnements dynamiques et souvent imprévisibles. Avec l’avancement rapide de l’apprentissage automatique, un nombre croissant de composants basés sur l’apprentissage est intégré dans ces systèmes afin de percevoir leur environnement et de prendre des décisions au niveau du contrôle. Ces techniques peuvent apprendre des modèles utiles à partir de grandes quantités de données, permettant ainsi aux systèmes autonomes de fonctionner efficacement dans des environnements complexes et variables qui auraient été extrêmement difficiles, voire impossibles, à gérer avec des logiciels traditionnels fondés sur des règles. Cependant, contrairement aux systèmes logiciels traditionnels, les composants basés sur l’apprentissage automatique ne reposent pas sur des règles explicites pouvant être vérifiées et testées de manière déterministe. Lorsque des entrées nouvelles ou inhabituelles, probablement non observées lors de l’entraînement, sont rencontrées, le risque de comportements indésirables ou dangereux augmente considérablement.