logo móvil
Contáctanos

Evaluación del sistema de procesamiento del lenguaje natural chino basado en pruebas metamórficas

Autores: Jin, Lingzi; Ding, Zuohua; Zhou, Huihui

Idioma: Inglés

Editor: MDPI

Año: 2022

Descargar PDF

Acceso abierto

Artículo científico
2022

Evaluación del sistema de procesamiento del lenguaje natural chino basado en pruebas metamórficas


Categoría

Matemáticas

Subcategoría

Matemáticas generales

Palabras clave

Sistema de procesamiento de lenguaje natural
Tecnología de pruebas metamórficas
Evaluar
Calidad
Relaciones metamórficas
Tareas

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 19

Citaciones: Sin citaciones


Descripción
Un sistema de procesamiento del lenguaje natural puede lograr una comunicación efectiva entre humanos y computadoras con lenguaje natural. Dado que su método de evaluación se basa en una gran cantidad de datos etiquetados y juicio humano, la pregunta de cómo evaluar sistemáticamente su calidad sigue siendo una tarea desafiante. En este artículo, utilizamos la tecnología de pruebas metamórficas para evaluar los sistemas de procesamiento del lenguaje natural desde la perspectiva del usuario para ayudar a los usuarios a comprender mejor las funcionalidades de estos sistemas y luego seleccionar el sistema de procesamiento del lenguaje natural apropiado según sus necesidades específicas. Hemos definido tres patrones de relación metamórfica. Estos patrones de relación metamórfica se centran respectivamente en algunas características de diferentes aspectos del procesamiento del lenguaje natural. Además, en esta base, definimos siete relaciones metamórficas y elegimos tres tareas (similitud de texto, resumen de texto y clasificación de texto) para evaluar la calidad del sistema. El chino se utiliza como idioma objetivo. Extendimos las relaciones metamórficas abstractas definidas a estas tareas, y se generaron siete relaciones metamórficas específicas para cada tarea. Luego, juzgamos si las relaciones metamórficas se cumplían para cada tarea, y las utilizamos para evaluar la calidad y robustez del sistema de procesamiento del lenguaje natural sin salida de referencia. Además, aplicamos la prueba metamórfica a tres sistemas de procesamiento de lenguaje natural principales (incluidos BaiduCloud API, AliCloud API y TencentCloud API), y en los conjuntos de datos PWAS-X, LCSTS y THUCNews. Se realizaron experimentos, revelando las ventajas y desventajas de cada sistema. Estos resultados muestran además que la prueba metamórfica puede probar efectivamente el sistema de procesamiento del lenguaje natural sin datos anotados.

Otros recursos que podrían interesarte

Temas Virtualpro