Generalisation with Generative Models

Avant tout, je voudrais exprimer ma plus grande gratitude à Christopher Pal. Je vous suis à jamais redevable, dans tous les bons sens du terme. Je n’arrive toujours pas à comprendre l’anomalie statistique qui a résulté de notre rencontre lorsque vous étiez en congé sabbatique à l’université de Waikato alors que j’étais en dernière année de licence. À l’époque, je ne savais rien des réseaux neuronaux profonds, de MILA ou de Yoshua Bengio, et mon seul autre projet était d’essayer d’obtenir une bourse ultra prestigieuse de type Rhodes pour faire mon doctorat en bio-informatique à l’université de Cambridge. Comme je ne l’ai pas obtenue, j’ai été sauvé par votre offre de devenir votre étudiant de maîtrise à Montréal. Bien que mes premières années à Montréal aient été parmi les plus difficiles de ma vie, j’en suis ressortie beaucoup plus forte et plus résistante. J’aimerais remercier L’institut de valorisation des données (IVADO) de m’avoir généreusement accordé sa bourse d’excellence pour le doctorat. Par extension, je remercie également Yoshua Bengio de m’avoir écrit une lettre de référence, ainsi que sa secrétaire Julie Mongeau d’avoir fait en sorte que cette lettre soit envoyée en temps voulu. Je remercie également Yoshua Bengio pour les discussions intéressantes que nous avons eues au cours de mon doctorat. Je remercie très généreusement David Vasquez, Catherine Martin et Valérie Bécaert de ServiceNow Research (anciennement Element AI) qui m’ont permis de faire un stage chez eux pendant une période ridiculement longue, plus précisément entre la mi-2019 et la fin 2022. Certaines (ou la plupart) de ces opportunités ont été accordées dans le cadre de bourses Mitacs Accelerate et je leur suis donc également très reconnaissant d’avoir fourni autant d’opportunités de mener des recherches académiques dans le contexte d’une entreprise. Je remercie Patrick Murphy et Stéphane Turbide (également titulaire d’une bourse Mitacs) de m’avoir permis d’être chercheur invité chez Maket Technologies, ainsi qu’Anima Anandkumar et Kamyar Azzizzadenesheli pour mon bref passage chez NVIDIA, où je travaillais sur les ‘neural operators’ pour l’analyse du climat. Je remercie également tous mes coauteurs (et ils sont nombreux !). Je souhaite également adresser une mention spéciale à Sina Honari, avec qui j’ai travaillé des années avant de commencer mon doctorat. J’apprécie vraiment ton souci du détail et ta rigueur, qui ont sans doute déteint sur moi. Je remercie mon cercle d’amis le plus proche : Eugène Vorontsov, Florence Martin et Wendy Yu, ainsi que leur zoo d’animaux domestiques : Mina ‘Croquette’ Capuccina, Cleo Potato, Thunder McFunface, Easy ‘Peasy L.’ Squeezy, Minxie Chouette, et Pepper Pig. Je remercie Vaughan Chittock, le propriétaire du Pub Saint Pierre, qui est probablement ce qui me rapproche le plus d’un séjour en Nouvelle-Zélande lorsque je suis à Montréal. À tous les ‘anciens de MILA’ (la liste est trop longue pour être énumérée), vous savez qui vous êtes et je me souviendrai toujours du bon vieux temps. Merci à Marianne Chivi de m’avoir aidé à accepter mon enfance et le stress post-traumatique. Pour citer Robin Williams dans Good Will Hunting, ‘ce n’est pas de votre faute.’ Je n’ai pas de parents ou de famille élargie à remercier pour la rédaction de cette thèse. Ceci étant dit, j’espère que je n’aurai plus jamais à écrire deux cents pages de quoi que ce soit dans ma vie.