Incrustación de gráficos de conocimiento para entidades jerárquicas basada en el tamaño de auto-incrustación
Autores: Zhang, Pengfei; Zhang, Xiaoxue; Fang, Yang; Liao, Jinzhi; Ma, Wubin; Tan, Zhen; Xiao, Weidong
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Incrustación de gráficos de conocimiento para entidades jerárquicas basada en el tamaño de auto-incrustación
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Grafo de conocimiento
Entidades
Relaciones
Relaciones jerárquicas
Dimensiones de incrustación
Estructura jerárquica de entidades
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 29
Citaciones: Sin citaciones
El embebido de grafos de conocimiento representa entidades y relaciones como vectores continuos de baja dimensión. Recientemente, los investigadores han intentado aprovechar las posibles conexiones semánticas entre entidades con relaciones jerárquicas en el grafo de conocimiento. Sin embargo, los métodos de embebido de conocimiento existentes que modelan estructuras jerárquicas de entidades enfrentan los siguientes desafíos: (1) Establecer la misma dimensión de embebido para entidades en diferentes niveles jerárquicos puede llevar a problemas de sobreajuste y al desperdicio de recursos de almacenamiento y computacionales; (2) Buscar manualmente la dimensión de embebido en un espacio discreto hace que sea fácil pasar por alto los parámetros óptimos y aumenta los costos de entrenamiento. Por lo tanto, proponemos un método de embebido de conocimiento, HEAES, que aprende automáticamente las dimensiones de embebido para entidades basadas en su estructura jerárquica. Específicamente, primero proponemos un nuevo método de modelado para capturar las relaciones jerárquicas de entidades, y luego entrenamos el modelo en una tarea de clasificación triple. Luego, aprendemos de manera adaptativa el umbral de poda para recortar los vectores de embebido, aprendiendo automáticamente diferentes dimensiones de embebido para entidades en diferentes niveles jerárquicos. Experimentos en los conjuntos de datos YAGO26K y DB111K verifican que la introducción de información jerárquica de entidades ayuda a mejorar el rendimiento del modelo.
Descripción
El embebido de grafos de conocimiento representa entidades y relaciones como vectores continuos de baja dimensión. Recientemente, los investigadores han intentado aprovechar las posibles conexiones semánticas entre entidades con relaciones jerárquicas en el grafo de conocimiento. Sin embargo, los métodos de embebido de conocimiento existentes que modelan estructuras jerárquicas de entidades enfrentan los siguientes desafíos: (1) Establecer la misma dimensión de embebido para entidades en diferentes niveles jerárquicos puede llevar a problemas de sobreajuste y al desperdicio de recursos de almacenamiento y computacionales; (2) Buscar manualmente la dimensión de embebido en un espacio discreto hace que sea fácil pasar por alto los parámetros óptimos y aumenta los costos de entrenamiento. Por lo tanto, proponemos un método de embebido de conocimiento, HEAES, que aprende automáticamente las dimensiones de embebido para entidades basadas en su estructura jerárquica. Específicamente, primero proponemos un nuevo método de modelado para capturar las relaciones jerárquicas de entidades, y luego entrenamos el modelo en una tarea de clasificación triple. Luego, aprendemos de manera adaptativa el umbral de poda para recortar los vectores de embebido, aprendiendo automáticamente diferentes dimensiones de embebido para entidades en diferentes niveles jerárquicos. Experimentos en los conjuntos de datos YAGO26K y DB111K verifican que la introducción de información jerárquica de entidades ayuda a mejorar el rendimiento del modelo.