Towards Using Federated Learning to Improve Generalization in Weather Forecasting

Les prévisions météorologiques précises restent un enjeu majeur aux applications variées, allant de la planification des activités quotidiennes à l’agriculture en passant par le transport, et la préparation aux catastrophes. Les techniques de prévision traditionnelles, basées sur des méthodes statistiques et des modèles physiques, rencontrent des difficultés à intégrer la complexité inhérente des systèmes atmosphériques, notamment la nature multidimensionnelle, la non-linéarité, et la variabilité régionale. Avec la croissance des données et les avancées des capacités de calcul, les approches d’apprentissage automatique (ML), en particulier l’apprentissage profond (DL), sont de plus en plus explorées pour la prévision météorologique. Cependant, de nombreux modèles de pointe en DL pour la prévision météorologique reposent sur l’agrégation et l’entraînement centralisés des données, ce qui pénalise les régions présentant une rareté de données ou sous-représentées. De plus, étant donné la diversité des types de climat à travers le monde, le modèle peut rencontrer des difficultés d’adaptation à certaines régions. Ainsi, une approche d’apprentissage fédéré (FL), qui permet l’entraînement du modèle sur des sources de données décentralisées tout en respectant la localité et la confidentialité des données, offre une solution prometteuse pour améliorer la précision des prévisions sans agrégation centralisée des données. Cette recherche se penche sur l’utilisation de l’apprentissage fédéré pour améliorer les prévisions météorologiques à travers un modèle distribué respectant la nature décentralisée des données météorologiques collectées dans diverses régions géographiques. Plus précisément, nous examinons et comparons plusieurs méthodes d’agrégation FL, incluant FedAvg, Fed- Prox, et SCAFFOLD, pour déterminer laquelle capture le mieux les variations atmosphériques régionales essentielles pour des prévisions précises. L’objectif principal est d’améliorer les prévisions des variables atmosphériques proches de la surface, en utilisant un ensemble de données hétérogène couvrant trois régions distinctes : l’hémisphère Nord, les tropiques et l’hémisphère Sud. Nous visons à établir un cadre capable d’améliorer les prévisions météorologiques à court et moyen termes en mettant l’accent sur la capacité du modèle à capturer les variations régionales et en adaptant les stratégies d’agrégation pour optimiser les performances dans différentes régions geographiques. Pour évaluer la performance de chaque méthode d’agrégation, nous utilisons le coefficient de corrélation des anomalies (ACC) et l’erreur quadratique moyenne (RMSE). Le RMSE fournit une mesure de la précision absolue des prévisions, tandis que l’ACC évalue la capacité du modèle à capturer les motifs d’anomalies par rapport à la climatologie. En nous concentrant sur ces métriques, nous visons à quantifier à la fois la précision des prévisions et la capacité du modèle à prédire les écarts par rapport aux conditions climatiques normales, une compétence essentielle pour anticiper les événements extrêmes et les anomalies climatiques. De plus, nous appliquons ces métriques pour évaluer la robustesse du modèle sur des intervalles de prévision étendus, en analysant le comportement du modèle non seulement pour des prévisions immédiates (à t+Δt) mais aussi pour des prévisions à plusieurs étapes (jusqu’à t+2Δt), ce qui est essentiel pour les applications pratiques de la prévision météorologique. Nos résultats indiquent que certaines techniques d’agrégation surpassent l’approche standard FedAvg, en particulier dans les régions avec une forte hétérogénéité des données, comme les tropiques. SCAFFOLD, avec son mécanisme de correction pour gérer la dérive des clients, montre des améliorations considérables en termes de vitesse de convergence et de précision des prévisions dans les distributions de données non-IID, tandis que les stratégies d’agrégation personnalisées donnent les meilleurs résultats dans les régions présentant des comportements atmosphériques uniques comme dans les tropiques. Ces résultats montrent que l’apprentissage fédéré aide le modèle à mieux s’adapter aux données hors distribution (par exemple, les changements soudains) en raison, par exemple, du changement climatique. En résumé, cette étude contribue à la littérature croissante à l’intersection de l’apprentissage fédéré et de la prévision météorologique en répondant aux principaux défis de confidentialité des données, d’hétérogénéité régionale, et d’efficacité computationnelle. En améliorant les méthodologies d’apprentissage fédéré pour la prévision météorologique décentralisée, ce travail ouvre la voie à l’utilisation de modèles de prévision précis et respectueux de la confidentialité, capables d’opérer à travers des stations météorologiques distribuées ou des agences météorologiques locales sans compromettre la propriété des données. Les méthodes et résultats présentés ici non seulement soutiennent l’amélioration des prévisions météorologiques, mais offrent également une perspective pour des applications plus larges de l’apprentissage fédéré dans les sciences environnementales, où les données décentralisées et la coopération interrégionale sont primordiales.