Un estudio sobre la traducción automática neuronal no autoregresiva
Autores: Li, Feng; Chen, Jingxian; Zhang, Xuejun
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Un estudio sobre la traducción automática neuronal no autoregresiva
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Traducción neuronal automática
No autoregresivo
Compensación de velocidad
Gestión de dependencias objetivo
Estrategias de entrenamiento
Rendimiento de traducción
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 29
Citaciones: Sin citaciones
La traducción neuronal no autoregresiva (NAMT) ha recibido una atención creciente recientemente debido a su prometedor paradigma de aceleración para una decodificación rápida. Sin embargo, estos espléndidos avances en velocidad van en detrimento de la precisión, en comparación con su contraparte autoregresiva. Para cerrar esta brecha de rendimiento, se han realizado numerosos estudios para lograr un mejor equilibrio entre calidad y velocidad. En este documento, estudiamos el dominio de NAMT desde dos nuevas perspectivas, es decir, la gestión de dependencias del objetivo y la disposición de estrategias de entrenamiento. Los enfoques propuestos se detallan en profundidad, involucrando cinco categorías de modelos. Luego recopilamos datos experimentales extensos para presentar abundantes gráficos para una evaluación cuantitativa y una comparación cualitativa según el rendimiento de traducción reportado. Con base en ello, se proporciona un análisis de rendimiento integral. Se realiza una inspección adicional de dos problemas destacados: la predicción de la longitud de la oración objetivo y la destilación del conocimiento a nivel de secuencia. La reinvestigación acumulativa de la calidad de traducción y la aceleración demuestra que la decodificación no autoregresiva puede no ser tan rápida como parece y aún carece de un verdadero sobrepaso en precisión. Finalmente, se prospecta un trabajo potencial desde facetas internas y externas y se hace un llamado a estudios más prácticos y garantizados para el futuro.
Descripción
La traducción neuronal no autoregresiva (NAMT) ha recibido una atención creciente recientemente debido a su prometedor paradigma de aceleración para una decodificación rápida. Sin embargo, estos espléndidos avances en velocidad van en detrimento de la precisión, en comparación con su contraparte autoregresiva. Para cerrar esta brecha de rendimiento, se han realizado numerosos estudios para lograr un mejor equilibrio entre calidad y velocidad. En este documento, estudiamos el dominio de NAMT desde dos nuevas perspectivas, es decir, la gestión de dependencias del objetivo y la disposición de estrategias de entrenamiento. Los enfoques propuestos se detallan en profundidad, involucrando cinco categorías de modelos. Luego recopilamos datos experimentales extensos para presentar abundantes gráficos para una evaluación cuantitativa y una comparación cualitativa según el rendimiento de traducción reportado. Con base en ello, se proporciona un análisis de rendimiento integral. Se realiza una inspección adicional de dos problemas destacados: la predicción de la longitud de la oración objetivo y la destilación del conocimiento a nivel de secuencia. La reinvestigación acumulativa de la calidad de traducción y la aceleración demuestra que la decodificación no autoregresiva puede no ser tan rápida como parece y aún carece de un verdadero sobrepaso en precisión. Finalmente, se prospecta un trabajo potencial desde facetas internas y externas y se hace un llamado a estudios más prácticos y garantizados para el futuro.