Generative transformer con decodificación guiada por conocimiento para completar gráficos de conocimiento académico
Autores: Liu, Xiangwen; Mao, Shengyu; Wang, Xiaohan; Bu, Jiajun
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Generative transformer con decodificación guiada por conocimiento para completar gráficos de conocimiento académico
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Gráficos de conocimiento académico
Completado
Entidades
Relaciones
Transformador
Predicción de enlaces
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 32
Citaciones: Sin citaciones
Los gráficos de conocimiento académico son recursos esenciales y pueden ser beneficiosos en aplicaciones del mundo real. La mayoría de los gráficos de conocimiento académico existentes están lejos de estar completos; por lo tanto, la completitud del gráfico de conocimiento, la tarea de extender un gráfico de conocimiento con entidades y relaciones faltantes, atrae a muchos investigadores. La mayoría de los métodos existentes utilizan incrustaciones de baja dimensión para representar entidades y relaciones y siguen el paradigma de discriminación para la predicción de enlaces. Sin embargo, los enfoques de discriminación pueden sufrir problemas de escala durante la inferencia con gráficos de conocimiento académico a gran escala. En este documento, proponemos un enfoque novedoso de un transformador generativo con decodificación guiada por conocimiento para la completitud del gráfico de conocimiento académico. Específicamente, presentamos el preentrenamiento generativo del gráfico de conocimiento académico con un transformador. Luego, proponemos la decodificación guiada por conocimiento, que aprovecha el conocimiento relevante en el corpus de entrenamiento como guía de ayuda. Realizamos experimentos en conjuntos de datos de referencia para la completitud del gráfico de conocimiento. Los resultados experimentales muestran que el enfoque propuesto puede lograr ganancias de rendimiento de 30 unidades en la puntuación MRR sobre las líneas de base en el gráfico de conocimiento académico AIDA.
Descripción
Los gráficos de conocimiento académico son recursos esenciales y pueden ser beneficiosos en aplicaciones del mundo real. La mayoría de los gráficos de conocimiento académico existentes están lejos de estar completos; por lo tanto, la completitud del gráfico de conocimiento, la tarea de extender un gráfico de conocimiento con entidades y relaciones faltantes, atrae a muchos investigadores. La mayoría de los métodos existentes utilizan incrustaciones de baja dimensión para representar entidades y relaciones y siguen el paradigma de discriminación para la predicción de enlaces. Sin embargo, los enfoques de discriminación pueden sufrir problemas de escala durante la inferencia con gráficos de conocimiento académico a gran escala. En este documento, proponemos un enfoque novedoso de un transformador generativo con decodificación guiada por conocimiento para la completitud del gráfico de conocimiento académico. Específicamente, presentamos el preentrenamiento generativo del gráfico de conocimiento académico con un transformador. Luego, proponemos la decodificación guiada por conocimiento, que aprovecha el conocimiento relevante en el corpus de entrenamiento como guía de ayuda. Realizamos experimentos en conjuntos de datos de referencia para la completitud del gráfico de conocimiento. Los resultados experimentales muestran que el enfoque propuesto puede lograr ganancias de rendimiento de 30 unidades en la puntuación MRR sobre las líneas de base en el gráfico de conocimiento académico AIDA.