L’ache`vement du graphe de connaissances temporelles (TKGC) est une taˆche critique pour le raisonnement automatise ́ dans le monde des informations interconnecte ́es, telles que les re ́seaux d’interaction sociale, les re ́seaux de trafic et les re ́seaux biologiques. La de ́duction de faits non enregistre ́s dans le passe ́ et le pre ́sent e ́tant donne ́ le reste des connaissances stocke ́es dans la base de donne ́es permet une meilleure prise de de ́cision dans l’incertitude. Dans cette the`se, nous identifions plusieurs de ́fis cle ́s pose ́s par TKGC, puis de ́veloppons des me ́thodes et des me ́triques qui de ́montrent une ame ́lioration empirique sur ces aspects.Premie`rement, les travaux existants ont aborde ́ le TKGC en augmentant les me ́thodes de graphes de connaissances statiques afin de tirer parti des repre ́sentations de ́pendant du temps. Cependant, ces me ́thodes ne tirent pas explicitement parti des informations structurelles multi-sauts et des faits temporels des e ́tapes de temps re ́centes pour ame ́liorer leurs pre ́dictions. De plus, les travaux ante ́rieurs ne traitent pas explicitement de la rarete ́ temporelle et de la variabilite ́ des distributions d’entite ́s dans les TKG. Nous proposons le cadre de passage des messages temporels (TeMP) pour relever ces de ́fis en combinant des re ́seaux de neurones graphiques et des mode`les de dynamique temporelle, puis incorporons des techniques d’imputation de donne ́es et de de ́clenchement base ́es sur la fre ́quence dans la conception du mode`le.Deuxie`mement, dans les applications du monde re ́el, les mode`les traitent ge ́ne ́ralement des ensembles de donne ́es changeant dynamiquement. Raisonner dans un TKG fre ́quemment mis a` jour est particulie`rement difficile car le mode`le doit s’adapter aux changements du TKG pour une formation et une infe ́rence efficaces tout en pre ́servant ses performances sur les connaissances historiques. Des travaux re ́cents ont approche ́ l’ache`vement TKG (TKGC) en augmentant le cadre codeur-de ́codeur avec une fonction de codage sensible au temps. Cependant, affiner na ̈ıvement le mode`le a` chaque pas de temps en utilisant ces me ́thodes ne re ́sout pas les proble`mes de 1) oubli catastrophique, 2) de l’incapacite ́ du mode`le a` identifier le changement de faits (par exemple, le changement d’affiliation politique et la fin d’un mariage), et 3) le manque d’efficacite ́ de la formation. Pour relever ces de ́fis, nous pre ́sentons le cadre d’inclusion incre ́mentielle sensible au temps (TIE), qui combine l’apprentissage de la repre ́sentation TKG, la relecture d’expe ́rience et la re ́gularisation temporelle. Nous introduisons e ́galement un ensemble de me ́triques qui caracte ́rise la capacite ́ du mode`le a` discerner les faits supprime ́s, et proposons une contrainte qui associe les faits supprime ́s a` des e ́tiquettes ne ́gatives.Dans l’ensemble, cette the`se aborde diffe ́rents de ́fis du TKGC en introduisant de nouveaux parame`tres de taˆches, mode`les et me ́triques qui prennent en compte divers aspects des performances des mode`les. Les re ́sultats expe ́rimentaux sur des ensembles de donne ́es de re ́fe ́rence ont de ́montre ́ que nos me ́thodes propose ́es surpassent les mode`les de pointe a` bien des e ́gards

Temporal knowledge graph completion (TKGC) is a critical task for automated reasoning in the world of interconnected information, such as social interaction networks, traffic networks, and biological networks. Inferring unrecorded facts in the past and present given the rest of the knowledge stored in the database enables better decision-making under uncertainty. In this thesis, we identify several key challenges posed by TKGC, then develop methods and metrics that demonstrate empirical improvement over these aspects.First, existing work has approached TKGC by augmenting methods for static knowledge graphs to leverage time-dependent representations. However, these methods do not explicitly leverage multi-hop structural information and temporal facts from recent time steps to enhance their predictions. Additionally, prior work does not explicitly address the temporal sparsity and variability of entity distributions in TKGs. We propose the Temporal Message Passing (TeMP) framework to address these challenges by combining graph neural networks and temporal dynamics models, then incorporate data imputation and frequency-based gating techniques into the model design.Second, in real-world applications, models usually deal with dynamically changing datasets. Reasoning in a TKG updated frequently is particularly challenging since the model has to adapt to changes in the TKG for efficient training and inference while preserving its performance on historical knowledge. Recent work approached TKG completion (TKGC) by augmenting the encoder-decoder framework with a time-aware encoding function. However, naively fine-tuning the model at every time step using these methods does not address the problems of 1) catastrophic forgetting, 2) the model’s inability to identify the change of facts (e.g., the change of the political affiliation and end of a marriage), and 3) the lack of training efficiency. To address these challenges, we present the Time-aware Incremental Embedding (TIE) framework, which combines TKG representation learning, experience replay, and temporal regularization. We also introduce a set of metrics that characterizes the model’s ability to discern the deleted facts and propose a constraint that associates the deleted facts with negative labels.Overall, this thesis tackles different challenges of TKGC by introducing new task settings, models, and metrics that consider various aspects of model performances. Experimental results on benchmark datasets have demonstrated that our proposed methods outperform state-of-the-art models in many ways

Hamilton, William (Supervisor1)

Cheung, Jackie (Supervisor2)