Quantum Gradient Descent for Deep Learning Problems

Cette thèse présente la conception et l’évaluation d’un réseau neuronal adaptatif quantique (QEANN-QGD), qui intègre des paradigmes d’apprentissage quantique et classique pour traiter efficacement du données complexes. Le modèle exploite la descente de gradient quan- tique (QGD) et intègre une Fusion de caractéristiques hybride (HFI), où les caractéristiques améliorées par le quantum sont combinées avec des caractéristiques extraites à l’aide de méthodes classiques. Cette architecture utilise les forces des deux paradigmes, garantissant une performance d’apprentissage évolutive et adaptative. Notre approche été évaluée sur des ensembles de données de référence, ycompris MNIST et CIFAR-10, enutilisant diversestech- niques d’optimisation telles que SGD et Adam comme points de référence. Pour l’ensemble de données MNIST on a atteint une précision de 99,26% avec QEANN-QGD, comparé à 99,84% avec SGD et 99,97% avec Adam, tout en maintenant une faible valeur de perte de 0,0281. Pour CIFAR-10, le modèle atteint une précision de 82,57%, restant compétitif a plu- sieurs modèles classiques, avec une valeur finale de perte de 0,2791. Les couches contribuent considérablement à capturer des motifs non triviaux, reflétés dans les courbes de précision et la convergence progressive de l’énergie de l’état fondamental au cours de l’optimisation. De plus, des techniques de modélisation et de réduction du bruit ont été appliquées pour atténuer les erreurs quantiques et assurer la fiabilité des calculs quantiques. En utilisant les circuits quantiques variationnels et les techniques de décalage de paramètres ont permis une optimisation efficace des caractéristiques quantiques. Les résultats montrent que notre entraînement basé sur la QGD offreune robustesse et une capacité d’extraction de caractéris- tiques comparables aux méthodes classiques conventionnelles. Cela démontre la capacité des systèmes hybrides quantiques-classiques à s’adapter à des ensembles de données diversifiés avec des améliorations en termes de précision, rappel, score F1 et ROC-AUC. Cependant, l’architecture hybride introduit des défis tels qu’une surcharge computationnelle accrue et des besoins en qubits, qui sont discutés en détail. Les travaux futurs se concentreront sur le développement de circuits quantiques plus efficaces pour réduire l’utilisation des qubits et explorer des algorithmes quantiques alternatifs pour l’optimisation afin d’améliorer encore les performances du modèle. Cette étude fait progresser l’apprentissage machine quantique en proposant un réseau neuronal hybride et évolutif qui équilibre avec succès les composant quantiques et classiques, avec des applications potentielles dans des domaines nécessitant une extraction de caractéristiques améliorées et des capacités d’apprentissage adaptatives.

Abstract

This thesis presents the design and verification of a Quantum-Enhanced Adaptive Neural Network with quantum gradient descent (QEANN-QGD), which integrates quantum and classical learning paradigms to address complex data patterns effectively. The model lever- ages Quantum Gradient Descent(QGD) and incorporates Hybrid Feature Integration (HFI), where quantum-enhanced features are combined with classical features extracted through traditional methods. This architecture exploits the strengths of both paradigms, ensuring scalable and adaptive learning performance. The proposed approach is verified on bench- mark datasets, including MNIST and CIFAR-10, using various optimization techniquessuch as SGD and Adam as baselines. For the MNIST dataset, we achieve an accuracy of 99.26% with QEANN-QGD, compared to 99.84% with SGD and 99.97% with Adam, while main- taining a low loss value of 0.0281. For CIFAR-10, the model has 82.57% accuracy, remaining competitive with several classical models, with a final loss value of 0.2791. The quantum layers significantly contributes to capturing non-trivial patterns, reflected in the gradual convergence of the ground-state energy during optimization. In addition, noise reduction techniques are applied to mitigate quantum errors and ensure the reliability of the quantum computations. Using variational quantum circuits and parameter-shift techniques enable ef- fective optimization of quantum features. The results show that our QGD-based training provides comparable robustnessand feature extraction capabilities to conventional classical methods. But the classical counterpart showed better accuracy and precision when compared to hyprid model. The hybrid architecture introduces challenges such as increased computa- tional overhead and qubit requirements, which are discussed in detail. Future work will focus on developing more efficient quantum circuit designs to reduce gthe number of qubit used and exploring alternative quantum algorithms for optimization to further enhance model per- formance. This study advances quantum machine learning by proposing a scalable, hybrid neural network that successfully balances quantum and classical components, with potential applications in domains requiring enhanced feature extraction and adaptive learning capa- bilities.