Reconocimiento de emociones en texto basado en XLNet-BiGRU-Att
Autores: Han, Tian; Zhang, Zhu; Ren, Mingyuan; Dong, Changchun; Jiang, Xiaolin; Zhuang, Quansheng
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Reconocimiento de emociones en texto basado en XLNet-BiGRU-Att
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Reconocimiento de emociones en el texto
Procesamiento del lenguaje natural
Modelo de aprendizaje profundo
XLNet
Unidad recurrente bidireccional
Mecanismo de atención
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 47
Citaciones: Sin citaciones
El reconocimiento de emociones del texto (TER) es una tarea importante de procesamiento del lenguaje natural (NLP) que se utiliza ampliamente en la interacción humano-computadora, análisis de opiniones públicas, análisis de salud mental y análisis de redes sociales. En este artículo, se propone un modelo de aprendizaje profundo basado en XLNet con unidad recurrente bidireccional y mecanismo de atención (XLNet-BiGRU-Att) para mejorar el rendimiento de TER. XLNet se utiliza para construir modelos de lenguaje bidireccionales que pueden aprender información contextual simultáneamente, mientras que la unidad recurrente bidireccional con compuertas (BiGRU) ayuda a extraer características más efectivas que pueden prestar atención a los estados actuales y anteriores utilizando capas ocultas y el mecanismo de atención (Att) proporciona diferentes pesos para mejorar la "atención" prestada a la información importante, mejorando así la calidad de los vectores de palabras y la precisión de los juicios del modelo de análisis de sentimientos. El modelo propuesto compuesto por XLNet, BiGRU y Att mejora el rendimiento en la tarea completa de TER. Se llevaron a cabo experimentos en la base de datos de Captura de Movimiento Diádico Emocional Interactivo (IEMOCAP) y en el conjunto de datos del Instituto de Automatización de la Academia China de Ciencias (CASIA) para comparar XLNet-BiGRU-Att, XLNet, BERT y BERT-BiLSTM, y los resultados muestran que el modelo propuesto en este artículo tiene un rendimiento superior en comparación con los demás.
Descripción
El reconocimiento de emociones del texto (TER) es una tarea importante de procesamiento del lenguaje natural (NLP) que se utiliza ampliamente en la interacción humano-computadora, análisis de opiniones públicas, análisis de salud mental y análisis de redes sociales. En este artículo, se propone un modelo de aprendizaje profundo basado en XLNet con unidad recurrente bidireccional y mecanismo de atención (XLNet-BiGRU-Att) para mejorar el rendimiento de TER. XLNet se utiliza para construir modelos de lenguaje bidireccionales que pueden aprender información contextual simultáneamente, mientras que la unidad recurrente bidireccional con compuertas (BiGRU) ayuda a extraer características más efectivas que pueden prestar atención a los estados actuales y anteriores utilizando capas ocultas y el mecanismo de atención (Att) proporciona diferentes pesos para mejorar la "atención" prestada a la información importante, mejorando así la calidad de los vectores de palabras y la precisión de los juicios del modelo de análisis de sentimientos. El modelo propuesto compuesto por XLNet, BiGRU y Att mejora el rendimiento en la tarea completa de TER. Se llevaron a cabo experimentos en la base de datos de Captura de Movimiento Diádico Emocional Interactivo (IEMOCAP) y en el conjunto de datos del Instituto de Automatización de la Academia China de Ciencias (CASIA) para comparar XLNet-BiGRU-Att, XLNet, BERT y BERT-BiLSTM, y los resultados muestran que el modelo propuesto en este artículo tiene un rendimiento superior en comparación con los demás.