Grandes modelos de lenguaje para incrustación de grafos de conocimiento: una encuesta
Autores: Liu, Bingchen; Fang, Yuanyuan; Xu, Naixing; Hou, Shihao; Li, Xin; Li, Qian
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Grandes modelos de lenguaje para incrustación de grafos de conocimiento: una encuesta
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Grandes modelos de lenguaje
Incrustación de grafos de conocimiento
Métodos de aprendizaje de representaciones
Entidades
Relaciones
Tareas relacionadas con LLMs
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 49
Citaciones: Sin citaciones
Los grandes modelos de lenguaje (LLMs) han atraído mucha atención en varios campos debido a su rendimiento superior, con el objetivo de entrenar cientos de millones o más parámetros en grandes cantidades de datos de texto para comprender y generar lenguaje natural. A medida que el rendimiento superior de los LLMs se hace evidente, cada vez se aplican más a tareas relacionadas con la incrustación de grafos de conocimiento (KGE) para mejorar los resultados de procesamiento. Los métodos tradicionales de aprendizaje de representación de KGE mapean entidades y relaciones en un espacio vectorial de baja dimensión, lo que permite que los triples en el grafo de conocimiento cumplan una función de puntuación específica en el espacio vectorial. Sin embargo, basándose en las potentes capacidades de comprensión del lenguaje y modelado semántico de los LLMs, que recientemente se han invocado en diferentes grados en diferentes tipos de escenarios relacionados con KGE, como KGE multimodal y KGE abierto según sus características de tarea, los investigadores están explorando cada vez más cómo integrar LLMs para mejorar la representación del conocimiento, mejorar la generalización a entidades o relaciones no vistas y apoyar el razonamiento más allá de las estructuras de gráficos estáticos. En este artículo, investigamos una amplia gama de enfoques para realizar tareas relacionadas con LLMs en diferentes tipos de escenarios de KGE. Para comparar mejor los diversos enfoques, resumimos cada escenario de KGE en una clasificación. En el artículo también discutimos las aplicaciones en las que se utilizan principalmente los métodos y sugerimos varias direcciones prospectivas para el desarrollo de esta nueva área de investigación.
Descripción
Los grandes modelos de lenguaje (LLMs) han atraído mucha atención en varios campos debido a su rendimiento superior, con el objetivo de entrenar cientos de millones o más parámetros en grandes cantidades de datos de texto para comprender y generar lenguaje natural. A medida que el rendimiento superior de los LLMs se hace evidente, cada vez se aplican más a tareas relacionadas con la incrustación de grafos de conocimiento (KGE) para mejorar los resultados de procesamiento. Los métodos tradicionales de aprendizaje de representación de KGE mapean entidades y relaciones en un espacio vectorial de baja dimensión, lo que permite que los triples en el grafo de conocimiento cumplan una función de puntuación específica en el espacio vectorial. Sin embargo, basándose en las potentes capacidades de comprensión del lenguaje y modelado semántico de los LLMs, que recientemente se han invocado en diferentes grados en diferentes tipos de escenarios relacionados con KGE, como KGE multimodal y KGE abierto según sus características de tarea, los investigadores están explorando cada vez más cómo integrar LLMs para mejorar la representación del conocimiento, mejorar la generalización a entidades o relaciones no vistas y apoyar el razonamiento más allá de las estructuras de gráficos estáticos. En este artículo, investigamos una amplia gama de enfoques para realizar tareas relacionadas con LLMs en diferentes tipos de escenarios de KGE. Para comparar mejor los diversos enfoques, resumimos cada escenario de KGE en una clasificación. En el artículo también discutimos las aplicaciones en las que se utilizan principalmente los métodos y sugerimos varias direcciones prospectivas para el desarrollo de esta nueva área de investigación.