Identification statistique de variables importantes pour l'optimisation de boîtes noires

De nombreux problèmes industiels possèdent des propriétés particulières nécessitant le recours aux méthodes d'optimisation sans dérivées qui ont connu un accroissement d'intérêt au cours des dernières années. C'est notamment le cas lorsque les fonctions et les contraintes définissant le problème d'optimisation sont non linéaires, non différentiables, bruitées ou non définies pour certains points du domaine. Les méthodes de recherche directes tel que GPS et MADS sont des méthodes sans dérivées qui s'intéressent à résoudre, sous contraintes, des problèmes d'optimisation de boîtes noires à simple objectif ou biobjectif, où les fonctions correspondent le plus souvent au résultat d'un code informatique. Les sorties des boîtes noires sont parfois très coûteuses à évaluer et peuvent échouer à retourner une valeur pour des raisons inconnues. C'est la principale motivation qui nous incite à restreindre le nombre d'appels à la boîte noire en utilisant une stratégie de fixation de variables qui nous ramènera à optimiser dans des sous-espaces. Nous proposons une méthode qu'on appellera STATS-MADS fondée sur l'analyse de sensibilité afin de classer les variables d'entrée selon leur impact sur la sortie. L'optimisation se fera en alternance entre l'espace des variables d'entrée et les sous-espaces obtenus en fixant les variables jugées moins influentes. La même technique est utilisée pour s'attaquer aux problèmes de grande dimension qui constituent une des limites des méthodes sans d´erivées. Nous utilisons la plus réecente version (3:5:2) du logiciel NOMAD qui est une implémentation en C++ des algorithmes MADS, principalement l'instanciation ORTHOMADS. À la lumière des problèmes tests ayant jusqu'à 500 variables, nous comparons les résultats de notre méthode avec MADS et GPS afin de pouvoir conclure à son efficacité.

Abstract

Many industial problems have particular features requiring the recourse to derivativefree optimization methods which have shown increasing interest in recent years. This is particularly the case when the functions and the constraints defining the optimization problem are nonlinear, nondifferentiable, noisy or not defined for some points of the domain. Direct search methods such as GPS and MADS are derivative-free methods interested in solving, under constraints, simple or biojectif blackbox problems where functions are usually the result of a computer code. The outputs of blackboxes may be very costly to evaluate and may fail to return a value for unknown reasons. This is the main motivation that drives us to reduce the number of calls to the blackbox by using a strategy of setting variables leading to optimize in subspaces. We propose a method which will be called STATS-MADS based on sensitivity analyses to rank the input variables according to their impact on the output. The optimization occurs by alternating between the whole space of input variables and the subspaces obtained by setting the less important variables. The same technique is used to tackle large-sized problems which is one of the limitations of derivative-free methods. We use the most recent version (3:5:2) of the software NOMAD which is a C ++ implementation of MADS algorithms, mainly the instance ORTHOMADS. We compare the results of our method with MADS and GPS in order to conclude its effectiveness, based on test problems with up to 500 variables.