Modelo simple de completación de grafos de conocimiento basado en muestreo negativo diferencial y aprendizaje por indicaciones
Autores: Duan, Li; Wang, Jing; Luo, Bing; Sun, Qiao
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Modelo simple de completación de grafos de conocimiento basado en muestreo negativo diferencial y aprendizaje por indicaciones
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Gráficas de conocimiento
Tareas de inteligencia artificial
Completación de KG
Técnicas basadas en incrustaciones
Modelos de lenguaje preentrenados
Muestreo negativo
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Los gráficos de conocimiento (KGs) sirven como un recurso crucial para numerosas tareas de inteligencia artificial, contribuyendo significativamente al avance del campo de la IA. Sin embargo, la incompletitud de los KGs existentes obstaculiza su efectividad en aplicaciones prácticas. En consecuencia, los investigadores han propuesto la tarea de completar KGs. Actualmente, las técnicas basadas en incrustaciones dominan el campo, ya que aprovechan la información estructural dentro de los KGs para inferir y completar partes faltantes. No obstante, estos métodos presentan limitaciones. Están limitados por la calidad y cantidad de información estructural y no pueden manejar las entidades faltantes en el KG original. Para superar estos desafíos, los investigadores han intentado integrar modelos de lenguaje preentrenados y datos textuales para realizar la completación de KGs. Este enfoque utiliza las declaraciones de definición y el texto descriptivo de las entidades dentro de los KGs. El objetivo es compensar las conexiones latentes que son difíciles de obtener para los métodos tradicionales. Sin embargo, los métodos basados en texto aún están rezagados en comparación con los modelos basados en incrustaciones en términos de rendimiento. Nuestro análisis revela que el problema crítico radica en el proceso de selección de muestras negativas. Para mejorar el rendimiento de los métodos basados en texto, se emplean varios tipos de métodos de muestreo negativo en este estudio. Introdujimos el aprendizaje por indicaciones para llenar el vacío entre el modelo de lenguaje preentrenado y la tarea de completación de gráficos de conocimiento, y para mejorar el nivel de razonamiento del modelo. Al mismo tiempo, se propone una estrategia de clasificación basada en la información estructural del KG para utilizar datos estructurados del KG que ayuden al razonamiento. Los resultados del experimento demuestran que nuestro modelo exhibe una fuerte competitividad y una velocidad de inferencia sobresaliente. Al explotar completamente la información estructural interna de los KGs y los recursos textuales descriptivos relevantes externos, logramos elevar con éxito los niveles de rendimiento de las tareas de completación de KGs en diversas métricas.
Descripción
Los gráficos de conocimiento (KGs) sirven como un recurso crucial para numerosas tareas de inteligencia artificial, contribuyendo significativamente al avance del campo de la IA. Sin embargo, la incompletitud de los KGs existentes obstaculiza su efectividad en aplicaciones prácticas. En consecuencia, los investigadores han propuesto la tarea de completar KGs. Actualmente, las técnicas basadas en incrustaciones dominan el campo, ya que aprovechan la información estructural dentro de los KGs para inferir y completar partes faltantes. No obstante, estos métodos presentan limitaciones. Están limitados por la calidad y cantidad de información estructural y no pueden manejar las entidades faltantes en el KG original. Para superar estos desafíos, los investigadores han intentado integrar modelos de lenguaje preentrenados y datos textuales para realizar la completación de KGs. Este enfoque utiliza las declaraciones de definición y el texto descriptivo de las entidades dentro de los KGs. El objetivo es compensar las conexiones latentes que son difíciles de obtener para los métodos tradicionales. Sin embargo, los métodos basados en texto aún están rezagados en comparación con los modelos basados en incrustaciones en términos de rendimiento. Nuestro análisis revela que el problema crítico radica en el proceso de selección de muestras negativas. Para mejorar el rendimiento de los métodos basados en texto, se emplean varios tipos de métodos de muestreo negativo en este estudio. Introdujimos el aprendizaje por indicaciones para llenar el vacío entre el modelo de lenguaje preentrenado y la tarea de completación de gráficos de conocimiento, y para mejorar el nivel de razonamiento del modelo. Al mismo tiempo, se propone una estrategia de clasificación basada en la información estructural del KG para utilizar datos estructurados del KG que ayuden al razonamiento. Los resultados del experimento demuestran que nuestro modelo exhibe una fuerte competitividad y una velocidad de inferencia sobresaliente. Al explotar completamente la información estructural interna de los KGs y los recursos textuales descriptivos relevantes externos, logramos elevar con éxito los niveles de rendimiento de las tareas de completación de KGs en diversas métricas.