Beamforming Design for Massive MIMO Systems with Deep Neural Networks

L’avènement des communications sans-fil à très grand nombre d’entrées et de sorties (massive multiple-input multiple-output ou MIMO massif) a redéfini le fonctionnement systèmes de communication sans-fil, exploitant un ensemble d’antennes pour améliorer l’efficacité spectrale (SE) et la capacité du système. Les techniques de formation de faisceau jouent un rôle crucial dans les performances du MIMO massif, avec deux catégories principales : le précodage entièrement numérique (FDP) et la formation de faisceau hybride (HBF). Alors que le FDP offre de la flexibilité mais au détriment de la complexité matérielle, le HBF équilibre complexité et performance. Cependant, le calcul pour la formation de faisceau est difficile en raison de facteurs tels que l’information d’état de canal (CSI) imparfaite, les problèmes d’optimisation non convexes et les connexions de sous-réseau discrètes dans le HBF. Aborder ces défis est crucial pour maximiser les avantages de la formation de faisceau dans les systèmes MIMO massif. Les approches traditionnelles font face à des problèmes d’optimisation non convexes et la dépendance à l’égard d’un CSI précis. Ces inconvénients entravent leur extensibilité et leur efficacité, conduisant souvent à des performances sous-optimales. De plus, l’acquisition d’un CSI précis introduit une surcharge de signalisation substantielle. Pour surmonter ces défis, il existe un intérêt croissant à exploiter la puissance de techniques utilisant l’apprentissage profond (DL). Dans cette thèse, nous abordons la question cruciale : «Comment l’apprentissage profond peut améliorer les performances globales des systèmes MIMO massif?» Notre travail se concentre sur le développement de solutions de formation de faisceau basées sur l’apprentissage profond qui dépassent les limites des méthodes conventionnelles. Plus précisément, nous explorons divers schémas de formation de faisceau, y compris le pré-codage entièrement numérique, la formation de faisceau hybride et le MIMO massif sans cellule (CF-mMIMO), avec différents niveaux de connaissances du CSI, couvrant les systèmes avec duplexage en fréquence (FDD) et duplexage en temps (TDD). Le premier aspect abordé dans cette recherche est l’utilisation de l’apprentissage profond pour la conception de faisceau. En utilisant des réseaux neuronaux profonds avec apprentissage non-supervisé et en utilisant la rétroaction de l’indicateur de force du signal reçu (RSSI), une nouvelle approche est proposée pour concevoir des pré-codeurs hybrides sans dépendre de l’estimation et de la rétroaction du CSI. Cette méthode réduit non seulement la complexité de calcul et la latence de manière significative, mais atteint également une efficacité spectrale près de l’optimal.

Abstract

ABSTRACT The emergence of massive multiple-input multiple-output (mMIMO) technology has reshaped wireless communication systems, leveraging an array of antennas to enhance spectral ef-ficiency (SE) and network performance. Beamforming techniques play a pivotal role in mMIMO’s performance, with two primary categories: fully digital precoding (FDP) and hy-brid beamforming (HBF). While FDP offers flexibility but at the cost of hardware complexity, HBF balances complexity, and performance. However, beamforming is challenging due to fac-tors like imperfect Channel State Information (CSI), non-convex optimization problems, and discrete sub-array connections in HBF. Addressing these challenges is crucial for maximizing the benefits of beamforming in mMIMO systems. Traditional approaches to beamforming in mMIMO systems grapple with non-convex optimization problems and the reliance on accu-rate CSI. These drawbacks hinder their scalability and efficiency, often leading to suboptimal performance. Additionally, the acquisition of precise CSI introduces substantial signaling overhead. To overcome these challenges, there is a growing interest in leveraging the power of deep learning (DL) techniques. In this thesis, we address the pivotal question: “How can deep learning improve the over-all performance of massive MIMO systems?” Our work focuses on developing DL-based beamforming solutions that surpass the limitations of conventional methods. Specifically, we explore various beamforming schemes, including Full Digital Precoding, Hybrid Beam-forming, and cell-free massive MIMO (CF-mMIMO), under different levels of CSI knowledge, spanning frequency division duplexing (FDD) and time division duplexing (TDD) systems. The first aspect addressed in this research is using deep learning for beamforming design. By employing deep neural networks and utilizing received signal strength indicator (RSSI) feed-back, a novel approach is proposed to design hybrid precoders without relying on complex CSI estimation and feedback. This method not only significantly reduces computational com-plexity and latency but also achieves near-optimal SE, thus enhancing the spectral efficiency of massive MIMO systems. Building upon the success of unsupervised learning for single base station scenarios, the thesis then explores cell-free mMIMO (CF-mMIMO) communication systems. In cell-free systems, multiple access points (AcPs) collaborate to serve users, presenting challenges in achieving near-optimal SE beamforming with limited signaling exchange between AcPs and the network controller.