Ontology Embeddings with Pretrained Language Models and Schema Information for Ontology-Related Tasks

Dans le Web sémantique, une ontologie est un cadriciel qui organise des concepts dans une structure hiérarchique tout en ajoutant des relations, des règles et des axiomes entre eux. Contrairement aux bases de données relationnelles, les ontologies offrent une manière plus souple et expressive de représenter la connaissance, et à la différence de la rigidité des bases de données relationnelles, qui définissent strictement des tables et des relations, les ontologies permettent la représentation de concepts complexes et interconnectés avec la capacité d’inférer de nouvelles connaissances en fonction des relations et des règles définies. De nombreuses applications du monde réel bénéficient de la sophistication de ce cadre. De la biomédecine à la biodiversité, en passant par la nutrition et les sciences des matériaux, l’expressivité des ontologies est un outil essentiel pour représenter et décrire le monde qui nous entoure. Émergeant des vastes développements des ontologies à travers plusieurs domaines et applications, de nombreuses tâches liées aux ontologies ont vu le jour. Parmi elles, on trouve la complétion d’ontologies, la prédiction de sous-classes, et la plus notoire, l’alignement d’ontologies, tâche qui consiste à identifier des correspondances entre des éléments sémantiquement équivalents, tels que des classes, des propriétés et des instances, à travers différentes ontologies. Dans ce mémoire, nous explorons comment l’apprentissage de représentation peut contribuer à la production de plongements d’ontologies qui soient généralisables, robustes et qui permettent une mise à échelle. Nous utilisons ensuite nos représentations dans des tâches liées aux ontologies en développant des systèmes de pointe. Nous explorons notamment de nouvelles façons d’aligner les ontologies vers un espace latent grâce à l’apprentissage de représentations à partir de structures ontologiques et en utilisant de grands modèles de langage préentraînés. Au cours de cette recherche, notre travail a été divisé en trois articles. Premièrement, SEBMatcher est un système d’alignement d’ontologies qui repose sur deux réseaux siamois BERT et des parcours aléatoires de la structure ontologique pour produire un alignement. Deuxièmement, SORBET est un modèle d’encodage d’ontologie inspiré par SEBMatcher qui utilise une nouvelle fonction de régression basée sur la distance entre classes et un modèle SentenceBERT pré-entraîné pour produire des encodages d’ontologies de haute qualité. Troisièmement, SORBETMatcher est un système d’alignement d’ontologies et de prédiction de sous-classes dont l’objectif principal est de démontrer le potentiel des plongements obtenus avec SORBET dans les tâches liées aux ontologies.