Analyse de sensibilité pour la réduction de dimension en optimisation sans dérivée

A l'heure actuelle, le monde industriel regorge de processus et de calculs complexes et l'optimisation de ceux-ci se retrouve au cœur de la recherche et du développement d'entreprises. Ces problèmes ont souvent des caractéristiques qui nécessitent de faire appel à des méthodes d'optimisation sans dérivée. Il s'agit d'algorithmes d'optimisation qui permettent de gérer des fonctions non linéaires, non différentiables, bruitées ou encore non définies en certains points du domaine. La classe d'algorithme Mads rassemble des méthodes qui permettent de résoudre des problèmes contraints sous forme de boîtes noires correspondant aux résultats d'un code informatique. Par ailleurs, l'exploration d'un espace de recherche dont aucune information n'est disponible nécessite un grand nombre d'évaluations. Néanmoins, l'évaluation d'une boîte noire est souvent coûteuse; ceci constitue la principale difficulté du domaine, la recherche d'un minimum d'une boîte noire en un nombre limité d'évaluations. Cette limite du budget d'évaluations et d'autant plus importante lorsque le problème d'intérêt est de grande dimension. Il s'agit de la principale motivation pour appliquer une méthode de réduction de dimension au cours de l'optimisation du problème. L'algorithme Stats-Mads applique tout d'abord une méthode d'analyse de sensibilité basée sur une analyse de variance pour identifier les variables ayant le plus d'influence sur l'objectif. Ensuite, l'algorithme alterne entre une optimisation en petite dimension, où les variables les moins influentes sont fixées, et une optimisation en grande dimension. Les phases d'optimisation en petite dimension ont un rôle prépondérant dans la diminution de la valeur de l'objectif, et donc dans l'optimisation du problème. Nous proposons un nouvel algorithme de la classe Mads qui permet de s'attaquer à des problèmes de grande dimension. Celui-ci applique une analyse de sensibilité basée sur une analyse en composante principale qui permet d'extraire des combinaisons de variables ayant le plus d'impact sur la fonction objectif. Cet algorithme a donc été nommé Pca-Mads. D'une manière similaire à Stats-Mads, l'algorithme Pca-Mads alterne entre une optimisation en petite et en grande dimension. Toutefois, la structure de l'algorithme permet de poursuivre l'optimisation en petite dimension tant que celle-ci fournit des solutions améliorant la valeur de la fonction objectif. L'algorithme Pca-Mads, principalement basé sur l'instance LTMads, a été implémenté en MATLAB™. A la lumière des résultats obtenus sur des problèmes allant jusqu'à 1500 variables, l'algorithme Pca-Mads est comparé à d'autres algorithmes d'optimisation sans dérivée dont CMA-ES, Mads et principalement Stats-Mads afin de pouvoir conclure de ses performances. Ces tests indiquent clairement l'intérêt de l'approche de Pca-Mads.