Méthodes d'apprentissage profond 3D en radiothérapie pour la segmentation d'organes et la prédiction de distributions de dose

Le cancer de la tête et du cou se développe dans une région foisonnante d'organes, de tissus et de structures vitales. La radiothérapie externe est une des modalités privilégiées pour le traitement de ce cancer car les récentes innovations qu'elle a connues permettent d'administrer des doses à des tumeurs difficiles d'accès. Cette modalité nécessite cependant une longue période de planification, notamment pour les étapes de segmentation des structures et d'élaboration des plans de dose. Bien que le développement de méthodes automatiques permette de réduire ces deux étapes de plusieurs dizaines de minutes, la production de traitement pour cette région complexe se compte encore en heures. La récente évolution des modèles d'apprentissage profond et plus particulièrement les réussites des réseaux de neurones convolutifs ont accéléré la recherche de nouvelles méthodes dans ce domaine. Des tâches de segmentation et de régression sont abordées avec des réseaux profonds qui, à l'issue d'un entraînement minutieux, produisent des résultats en quelques secondes seulement. Dans ce mémoire, nous présentons deux méthodes basées sur les encodeur-décodeurs convolutifs 3D pour aider à la planification des plans de doses. Une première méthode de segmentation automatique d'organes est développée pour une base de données interne de patients atteints du cancer de la tête et du cou. La solution proposée aborde les méthodes de transfert de poids et démontre les bienfaits de l'initialisation des réseaux avec une moyenne de poids. Le score de Dice moyen obtenu sur l'ensemble des organes considérés est de 0.75. Cela semble indiquer que les modèles entraînés pour la segmentation d'organes distincts disposent d'information transférable entre modèles. Une deuxième méthode répondant au besoin d'outils efficaces de génération de distribution de dose est ensuite proposée. La solution présentée est à la fois testée sur une base de données interne comportant des variations réalistes et sur une base de données publique standardisée. Dans les deux cas, l'architecture enrichie d'un objectif mixte incluant des aspects cliniques démontre des performances accrues face à deux architectures de l'état de l'art avec 0.95 (0.98) pour la couverture D95, 1.06 (1.07) pour la dose maximale, 0.10 (0.08) pour l'homogénéité et 0.53 (0.79) pour l'index de conformité sur la base de données interne (publique). Le modèle proposé inclut des convolutions denses et des modules d'attention portés par des couches choisies et offre des capacités de prédiction en temps réel. Les deux méthodes pourraient ainsi être intégrées en clinique pour la radiooncologie, fournissant respectivement un outil de segmentation automatique et un outil de visualisation de plans de dose.