Modelling of Artificial Neural Networks with Integrated Photonics

Les algorithmes d'apprentissage profond sont des éléments clés d'interconnection des objets du 21ème siècle. Ils permettent de traiter de grand ensembles de données rapidement et de manière automatique. Cependant, la quantité de données à notre disposition ne fait qu'augmenter, et avec elle la latence et la consommation d'énergie de ces algorithmes. Avec la fin de la loi de Moore, l'application du Deep Learning sur ordinateur électronique devient un défis important à relever. La photonique, permettant une grande puissance de calcul et le traitement de données à haute vitesse, apparait comme une potentielle alternative.Nous étudions donc la possibilité de reproduire les différentes fonctions d'un algorithme d'apprentissage profond avec des composants optiques. Ces fonctions peuvent être résumées en quatre catégories :1. Pré-traitement des données d'entrée 2. Propagation avant des données 3. Analyse des données en sortie 4. Optimisation du réseau de neurones Une première étape vers l'utilisation de réseaux optiques d'apprentissage profond, et l'objectif de ce mémoire, est la production de circuits optiques conçus pour une tâche précise, telle que la reconnaissance d'images. Nous nous retrouvons donc dans le cas de figure suivant :le pré-traitement des données d'entrées est effectué en dehors du réseau optique, et permet, en partie, la conversion des données d'entrée en signaux optiques. L'analyse des données en sortie est exécutée en dehors du circuit, grâce à un photodétecteur qui permet de transformer la lumière en une grandeur mesurable.

Abstract

In the information age, and particularly now in the 21st century, mankind has seen a radical shift in the world. There has never been so much data, and its rate of growth keeps climbing. We can safely say that objects are now deeply interconnected. A key tool to handle this huge amount of data and complex connections is deep learning. Deep learning algorithms help us process sizeable data sets rapidly and without human intervention. However, as we accumulate more and more data, even deep learning algorithms are not enough: their power usage is too high, and as the data sets get bigger, so too does the processing time. The limitation of Moore's law by physical barriers, makes the application of deep learning on electronic computers very challenging. Current research points to the usage of alternative technologies in order to overcome these limitations, whereas integrated photonics emerges as one viable solution. Indeed, optical components would allow a bigger computing power and better processing speed. Here, we study the possibility of replicating the functions we use in traditional deep learning algorithms with optical components. We can classify these functions into four different categories:1. Pre-processing of input data 2. Forward propagation of data 3. Output data analysis 4. Neural network optimization.A first step towards creating optical deep learning networks is the production of optical networks designed to fulfill specific tasks, such as image recognition. In this thesis, we will study the feasibility of programming optical networks to create deep learning algorithms,by following the four categories presented before. Thus, we proceed as follows: first, the input data is pre-processed outside of the circuit.