Nouvelle approche analytique pour l'apprentissage du quantron

Le quantron est un neurone artificiel inspiré d'un modèle stochastique de la diffusion synaptique. Ce type de neurone biologiquement réaliste a le potentiel d'améliorer les capacités de classification des réseaux de neurones utilisés en reconnaissance de formes. Cependant, le quantron présente des difficultés pour l'implémentation d'un algorithme d'apprentissage efficace. Ceci est dû à la présence de discontinuités dans la fonction de réponse qui caractérise l'émission ou l'absence d'émission de neurotransmetteurs en réaction à la stimulation des synapses d'entrée. Ces discontinuités nuisent à l'apprentissage par modification itérative des paramètres du neurone. Ainsi, nous adoptons une approche analytique pour contourner ces difficultés et développer de nouveaux algorithmes d'apprentissage pour entraîner un quantron ou un réseau de quantrons. D'abord, nous nous intéressons au maximum de la fonction représentant le potentiel électrique du quantron, appelée fonction d'activation. Par comparaison à un seuil d'excitabilité, ce maximum détermine l'état d'activité du quantron, qui est alors utilisé comme classificateur. En utilisant des potentiels post-synaptiques ayant un profil rectangulaire, nous obtenons une approximation du maximum en substituant des fonctions quadratiques aux signaux provenant des synapses d'entrée. Avec cette approximation analytique, nous démontrons expérimentalement la possibilité d'entraîner le quantron en minimisant une surface d'erreur par descente du gradient. De plus, pour certains problèmes, nous observons une amélioration des résultats d'un algorithme de recherche directe. Ensuite, en utilisant une configuration particulière du quantron, nous trouvons une forme analytique simple pour la fonction d'activation dans le cas où les potentiels post-synaptiques possèdent un profil rectangulaire ou en rampe. Cette expression permet de lier les paramètres du quantron aux caractéristiques géométriques de sa frontière de décision. En se basant sur ces résultats, nous développons deux algorithmes d'apprentissage distincts, l'un procédant par l'analyse des configurations de la frontière de décision, et l'autre par l'inversion directe d'un système d'équations. Ces algorithmes permettent une résolution efficace de problèmes de classification pour lesquels le quantron admet une représentation sans erreur. Enfin, nous portons attention au problème de l'apprentissage d'un réseau de quantrons. Dans le cas de potentiels post-synaptique avec un potentiel triangulaire, nous proposons une approximation analytique du temps où s'active le quantron, qui est déterminé par le premier instant où la fonction d'activation atteint le seuil d'excitabilité. L'expression mathématique résultante, utilisée comme valeur de réponse du neurone, permet d'adapter l'algorithme de rétropropagation de l'erreur au réseau. Nous montrons qu'il devient alors possible d'entraîner des neurones qui autrement resteraient inactifs lors de l'apprentissage. De plus, nous illustrons la capacité des réseaux de quantrons à résoudre certains problèmes de classification en nécessitant moins de paramètres que des réseaux de neurones impulsionnels ou des réseaux de perceptrons. Les trois aspects du quantron étudiés dans cette thèse mènent à des algorithmes qui se distinguent des approches antérieures utilisées pour l'apprentissage des réseaux de neurones impulsionnels. En effet, notre approche analytique permet d'éviter les discontinuités qui perturbent le processus d'apprentissage grâce au lissage résultant de l'approximation analytique du maximum de la fonction d'activation et du temps d'activation. De plus, l'analyse géométrique de la frontière de décision est rendue possible par l'expression analytique de la fonction d'activation. Le résultat le plus probant est la tentative fructueuse de résolution du problème associé à l'entraînement des neurones inactifs, appelé problème des neurones silencieux. Par notre approche analytique de l'apprentissage du quantron, nous proposons donc des algorithmes originaux et innovateurs qui contribuent à une meilleure compréhension de l'apprentissage dans les réseaux de neurones biologiquement réalistes.