Métodos de Decodificación en la Generación de Lenguaje Neuronal: Una Encuesta
Autores: Zarrieß, Sina; Voigt, Henrik; Schüz, Simeon
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Métodos de Decodificación en la Generación de Lenguaje Neuronal: Una Encuesta
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Modelos de codificador-decodificador neuronal
Generación de lenguaje
Métodos de decodificación
Red neuronal
Sistema de NLG
Propiedades lingüísticas
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Los modelos de codificador-decodificador neuronales para la generación de lenguaje pueden ser entrenados para predecir palabras directamente a partir de entradas lingüísticas o no lingüísticas. Sin embargo, al generar con estos llamados modelos de extremo a extremo, el sistema de NLG necesita un procedimiento de decodificación adicional que determine la secuencia de salida, dado el espacio de búsqueda infinito sobre las secuencias potenciales que podrían generarse con el vocabulario dado. Este artículo de revisión proporciona una visión general de las diferentes formas de implementar la decodificación sobre modelos de generación basados en redes neuronales. La investigación sobre la decodificación se ha convertido en una verdadera tendencia en el área de la generación de lenguaje neuronal, y numerosos artículos recientes han demostrado que la elección del método de decodificación tiene un impacto considerable en la calidad y diversas propiedades lingüísticas de la salida de generación de un sistema NLG neuronal. Esta revisión tiene como objetivo contribuir a una comprensión más sistemática de los métodos de decodificación en diferentes áreas de NLG neuronal. Agrupamos los métodos revisados con respecto al tipo amplio de objetivo que optimizan en la generación de la probabilidad de secuencia, diversidad y restricciones o metas lingüísticas específicas de la tarea, y discutimos sus respectivas fortalezas y debilidades.
Descripción
Los modelos de codificador-decodificador neuronales para la generación de lenguaje pueden ser entrenados para predecir palabras directamente a partir de entradas lingüísticas o no lingüísticas. Sin embargo, al generar con estos llamados modelos de extremo a extremo, el sistema de NLG necesita un procedimiento de decodificación adicional que determine la secuencia de salida, dado el espacio de búsqueda infinito sobre las secuencias potenciales que podrían generarse con el vocabulario dado. Este artículo de revisión proporciona una visión general de las diferentes formas de implementar la decodificación sobre modelos de generación basados en redes neuronales. La investigación sobre la decodificación se ha convertido en una verdadera tendencia en el área de la generación de lenguaje neuronal, y numerosos artículos recientes han demostrado que la elección del método de decodificación tiene un impacto considerable en la calidad y diversas propiedades lingüísticas de la salida de generación de un sistema NLG neuronal. Esta revisión tiene como objetivo contribuir a una comprensión más sistemática de los métodos de decodificación en diferentes áreas de NLG neuronal. Agrupamos los métodos revisados con respecto al tipo amplio de objetivo que optimizan en la generación de la probabilidad de secuencia, diversidad y restricciones o metas lingüísticas específicas de la tarea, y discutimos sus respectivas fortalezas y debilidades.