Compression of Site-Specific Deep Neural Networks for Massive MIMO Precoding

La migration vers les réseaux sans fil de cinquième génération (5G) et au-delà impose une contrainte énergétique inédite aux stations de base, en particulier pour le précodage à très grand nombre d’antennes (MIMO massif ou mMIMO) dont la charge de calcul croît fortement avec le nombre d’antennes. Cette thèse propose des précodages fondés sur l’apprentissage profond qui maximisent le rendement énergétique tout en conservant une excellente efficacité spectrale. La première partie démontre qu’une compression de modèles spécifiques au site grâce à un entraînement avec quantification en précision mixte combiné à la recherche d’architectures neuronales (NAS) réduit l’énergie de calcul jusqu’à 35 fois par rapport au précodage de référence à erreur quadratique moyenne pondérée (WMMSE) pour un débit identique. Le processus s’appuie sur un modèle de consommation d’énergie calibré au matériel qui intègre les opérations multiplication-accumulation et les accès mémoire sur puce, révélant des compromis de Pareto sur un jeu de canaux simulés par lancer de rayons, incluant des environnements urbains en visée directe et indirecte. La seconde partie introduit BitAdapt, une méthode entièrement dérivable d’apprentissage de la précision qui évite la recherche combinatoire des résolutions de quantification. Chaque couche possède une résolution apprenable couplée à la méthode de quantification apprise LSQ, tandis que le modèled’énergie est intégré directement dans la fonction de coût. L’optimisation conjointe des poids, des pas de quantification et des résolutions place chaque couche au point de compromis optimal entre précision et énergie, générant des configurations en précision mixte adaptées aux conditions de canal propres à chaque cellule. Appliqué à un réseau convolutif léger comme à un réseau plus profond de type Transformer, BitAdapt réduit d’un ordre de grandeur l’énergie d’inférence par rapport à une quantification uniforme sur 8-bit, tout en égalant, voire dépassant, le débit total multi-utilisateur obtenu avec WMMSE. Ces contributions ouvrent la voie à des précodages neuronaux sobres en énergie pour les stations de base mMIMO, conciliant la flexibilité de l’apprentissage profond et les contraintes de puissance strictes des futures infrastructures sans fil.