Game-Theoretic Client Selection Mechanisms for Fairness, Incentives, and Security in Federated Learning with Non-IID Data

L’apprentissage fédéré (FL) s’est imposé comme un paradigme prometteur permettant l’entraînement collaboratif de modèles de machine learning à travers des silos de données décentralisés, offrant aux organisations la possibilité de bénéficier d’une intelligence collective tout en préservant la confidentialité des données. Malgré ce potentiel, l’efficacité et la durabilité du FL dans des déploiements réels restent limitées par plusieurs défis critiques. Ceux-ci incluent la participation peu fiable ou malhonnête des clients, les déséquilibres en matière de ressources disponibles, l’absence de mécanismes d’incitation transparents, ainsi que des hypothèses irréalistes concernant la distribution des données. Cette thèse s’attaque à ces limitations au moyen de quatre cadres indépendants mais complémentaires, chacun abordant une dimension particulière de l’écosystème FL : la gestion de la confiance, l’inclusivité fondée sur les coalitions, les marchés incitatifs compatibles, et le benchmarking réaliste. Plusieurs de ces cadres s’appuient sur des modèles de théorie des jeux, notamment les jeux de coalition, de Stackelberg et les enchères inversées. Le premier cadre introduit un mécanisme de sélection des clients fondé sur la confiance, modélisé à travers le prisme des jeux de coalition et des jeux hédoniques. Dans ce contexte, les clients forment implicitement des coalitions avec l’agrégateur, où la valeur de l’adhésion dépend à la fois de la fiabilité individuelle (confiance objective) et de la perception de la fiabilité des pairs (confiance subjective). En combinant un suivi basé sur les ressources avec des préférences guidées par la réputation, ce cadre capture la nature hédonique de la formation des coalitions : les clients préfèrent participer lorsqu’ils sont regroupés avec des pairs fiables, tandis que les participants malhonnêtes ou de faible qualité sont exclus. Cette interprétation par la théorie des jeux met en évidence la manière dont des coalitions stables peuvent être soutenues par les dynamiques de confiance, réduisant ainsi l’impact des passagers clandestins. Les expériences montrent que l’intégration d’un raisonnement coalitionnel fondé sur la confiance améliore non seulement la convergence, mais renforce également l’équité et la robustesse dans des conditions hétérogènes et adversariales. Le deuxième cadre, StackFed, traite les inégalités structurelles dans la participation des clients. Dans de nombreux systèmes FL, les clients limités en ressources sont marginalisés, ce qui restreint à la fois l’inclusivité et la diversité des données contribuant à l’entraînement. Pour contrer ce phénomène, StackFed emploie une approche de jeu de Stackelberg, dans laquelle des clients riches en ressources jouent le rôle de leaders et forment des coalitions avec des clients plus faibles, dits suiveurs. Les leaders définissent les conditions de coalivi tion, tandis que les suiveurs choisissent stratégiquement leurs alignements, créant ainsi des coalitions stables de type leader–suiveur qui démocratisent l’accès à l’entraînement. Cette conception favorise l’équité en évitant l’exclusion des clients faibles et améliore l’efficacité de l’apprentissage en équilibrant les charges computationnelles. Les résultats expérimentaux montrent que StackFed accroît non seulement l’inclusivité, mais améliore aussi la capacité de généralisation en intégrant les données de clients qui seraient autrement sous-utilisés. Le troisième cadre présente une architecture de marché pour l’apprentissage fédéré, qui formalise les interactions économiques entre les Propriétaires de Tâches, les Propriétaires de Réseau et les Clients. Dans ce modèle, les Propriétaires de Tâches définissent les exigences des modèles ainsi que les budgets, les Propriétaires de Réseau orchestrent l’entraînement, et les Clients entrent en compétition pour contribuer aux mises à jour. Le marché emploie des mécanismes d’enchères inversées pour allouer les tâches et intègre un système de réputation dynamique afin d’assurer une responsabilité à long terme. Les Clients sont récompensés proportionnellement à la qualité de leur contribution, les Propriétaires de Tâches bénéficient de mises à jour fiables et rentables, et les Propriétaires de Réseau soutiennent leurs opérations grâce à des commissions équitables. Ce cadre montre comment les dimensions économiques et techniques peuvent être unifiées pour garantir la durabilité. Les expériences valident que ce marché atteint une meilleure efficacité et une plus grande équité comparé à des systèmes d’incitation ad hoc, tout en décourageant la participation malhonnête ou à faible effort. Enfin, le quatrième cadre propose une stratégie de partitionnement hiérarchique basée sur Dirichlet à deux niveaux, sensible aux caractéristiques, pour le benchmarking des distributions non-IID. Les méthodes de partitionnement traditionnelles échouent souvent à capturer l’hétérogénéité complexe des ensembles de données réels, limitant ainsi la validité externe des expériences FL. La méthode proposée introduit deux niveaux de contrôle distributionnel : (i) un Dirichlet au niveau des clusters, qui partitionne les données en fonction de regroupements de caractéristiques latentes, et (ii) un Dirichlet au niveau des classes, qui régule l’allocation des étiquettes au sein des clusters. Cette approche hiérarchique génère des ensembles de données clients à la fois synthétiques et réalistes, reflétant à la fois la rareté inter-clients et l’asymétrie intra-client. En s’appuyant sur ce cadre de benchmarking, les chercheurs peuvent tester plus précisément les algorithmes FL dans des conditions reflétant l’hétérogénéité réelle. Les expériences sur divers ensembles de données montrent que le Dirichlet à deux niveaux reproduit mieux le caractère non-IID du monde réel que le partitionnement Dirichlet classique à un seul niveau. Pris ensemble, ces cadres font progresser l’apprentissage fédéré selon quatre dimensions : la confiance, l’inclusivité, l’alignement incitatif et le réalisme. Bien que chaque contribution ait une valeur indépendante, elles forment collectivement une feuille de route pour surmonter les vii principales limitations du FL. La thèse démontre qu’en s’attaquant à ces défis systémiques, le FL peut évoluer d’un concept prometteur à un paradigme pratique et durable.