Critical Path Analysis for MPI Applications with Trace Compass

Avec la croissance rapide des systèmes multicoeurs dans les supercalculateurs modernes, il devient essentiel de mettre en place des applications évolutives et les outils nécessaires pour les développer. Les applications modernes évoluent vers la complexité, ce qui rend les outils de profilage et de débogage traditionnels difficiles à utiliser. En conséquence, les performances des programmes parallèles deviennent difficiles à déboguer et à optimiser. De plus, l’efficacité des systèmes à grande échelle est limitée par l’intercommunication entre les noeuds. Pour comprendre la cause profonde de ces retards, une analyse de traçage est nécessaire. Cette étude propose un cadre pour les calculs du chemin critique des communications Message Passing Interface (MPI) basé sur l'application Trace Compass. Le cadre proposé a été développé en deux étapes, premièrement, la mise en oeuvre de l'algorithme de graphe d'exécution MPI et l'intégration avec l'environnement de développement de l'incubateur Trace Compass, deuxièmement, l'extension de l'algorithme générique de chemin critique au niveau du noyau dans Trace Compass pour tenir en compte les intervalles du graphique d'exécution MPI associés et calculer le chemin critique. Le cadre proposé a été testé et validé à l'aide de cinq programmes MPI allant d'applications simples, exécutées sur deux noeuds de processeurs, à une application complexe, fonctionnant sur cinquante coeurs de traitement avec des communications intensives entre les coeurs.

Abstract

With the rapid growth of multi-core systems in modern supercomputers, it becomes essential to establish scalable applications and the required tools to develop them. Modern applications are moving towards complexity, which makes the traditional profiling and debugging tools hard to use. As a result, the performance of parallel programs becomes difficult to debug and optimize. Furthermore, the efficiency of large-scale systems is constrained by the intercommunication between nodes. To understand the root cause of these delays, tracing analysis is needed. This study proposes a framework for critical path computations of Message Passing Interface (MPI) communications based on the Trace Compass application. The proposed framework was developed in two stages, first, the implementation of the MPI execution graph algorithm and the integration with the Trace Compass incubator developer environment, second, the extension of the generic kernel-level critical path algorithm in Trace Compass to take into account the related MPI execution graph intervals and compute the critical path. The proposed framework was tested and validated using five MPI programs scaled from simple applications, running on two processors nodes, to a complex application that runs on fifty processing cores with intensive communications between cores.