Multi-task diffusion learning para clasificación de series temporales
Autores: Zheng, Shaoqiu; Liu, Zhen; Tian, Long; Ye, Ling; Zheng, Shixin; Peng, Peng; Chu, Wei
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Multi-task diffusion learning para clasificación de series temporales
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Modelos de difusión
Series temporales
Aprendizaje profundo
Modelo MDGPS
Aprendizaje de difusión multi-tarea
Búsqueda de parches sin gradientes
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 35
Citaciones: Sin citaciones
Los modelos actuales de aprendizaje profundo para series temporales a menudo enfrentan desafíos con la generalización en escenarios caracterizados por muestras limitadas o datos insuficientemente etiquetados. Al aprovechar las sólidas capacidades generativas de los modelos de difusión, que han demostrado éxito en visión por computadora y procesamiento de lenguaje natural, vemos un potencial para mejorar la adaptabilidad de los modelos de aprendizaje profundo. Sin embargo, la aplicación específica de los modelos de difusión en la generación de muestras para tareas de clasificación de series temporales sigue siendo poco explorada. Para cerrar esta brecha, presentamos el modelo MDGPS, que incorpora aprendizaje de difusión multitarea y búsqueda de parches sin gradiente (MDGPS). Nuestra metodología tiene como objetivo reforzar la generalización de los modelos de clasificación de series temporales enfrentados con muestras etiquetadas restringidas. El módulo de aprendizaje de difusión multitarea integra la clasificación en el dominio de la frecuencia con el aprendizaje de difusión de parches enmascarados aleatorios, aprovechando representaciones de características en el dominio de la frecuencia y distribuciones de observaciones de parches para mejorar las propiedades discriminativas de las muestras generadas. Además, un módulo de búsqueda de parches sin gradiente, que utiliza el algoritmo de optimización de enjambre de partículas, perfecciona las series temporales para muestras específicas a través de un modelo de difusión multitarea preentrenado. Este proceso tiene como objetivo reducir los errores de clasificación causados por el enmascaramiento aleatorio de parches. Los resultados experimentales en cuatro conjuntos de datos de series temporales muestran que el modelo MDGPS propuesto supera consistentemente a otros métodos, logrando la mayor precisión de clasificación y puntaje F1 en todos los conjuntos de datos: 95.81%, 87.64%, 82.31% y 100% en precisión; y 95.21%, 82.32%, 78.57% y 100% en puntaje F1 para Epilepsia, FD-B, Gestos y EMG, respectivamente. Además, las evaluaciones en un escenario de aprendizaje por refuerzo confirman el rendimiento superior de MDGPS. Los experimentos de ablación y visualización validan aún más la efectividad de sus componentes individuales.
Descripción
Los modelos actuales de aprendizaje profundo para series temporales a menudo enfrentan desafíos con la generalización en escenarios caracterizados por muestras limitadas o datos insuficientemente etiquetados. Al aprovechar las sólidas capacidades generativas de los modelos de difusión, que han demostrado éxito en visión por computadora y procesamiento de lenguaje natural, vemos un potencial para mejorar la adaptabilidad de los modelos de aprendizaje profundo. Sin embargo, la aplicación específica de los modelos de difusión en la generación de muestras para tareas de clasificación de series temporales sigue siendo poco explorada. Para cerrar esta brecha, presentamos el modelo MDGPS, que incorpora aprendizaje de difusión multitarea y búsqueda de parches sin gradiente (MDGPS). Nuestra metodología tiene como objetivo reforzar la generalización de los modelos de clasificación de series temporales enfrentados con muestras etiquetadas restringidas. El módulo de aprendizaje de difusión multitarea integra la clasificación en el dominio de la frecuencia con el aprendizaje de difusión de parches enmascarados aleatorios, aprovechando representaciones de características en el dominio de la frecuencia y distribuciones de observaciones de parches para mejorar las propiedades discriminativas de las muestras generadas. Además, un módulo de búsqueda de parches sin gradiente, que utiliza el algoritmo de optimización de enjambre de partículas, perfecciona las series temporales para muestras específicas a través de un modelo de difusión multitarea preentrenado. Este proceso tiene como objetivo reducir los errores de clasificación causados por el enmascaramiento aleatorio de parches. Los resultados experimentales en cuatro conjuntos de datos de series temporales muestran que el modelo MDGPS propuesto supera consistentemente a otros métodos, logrando la mayor precisión de clasificación y puntaje F1 en todos los conjuntos de datos: 95.81%, 87.64%, 82.31% y 100% en precisión; y 95.21%, 82.32%, 78.57% y 100% en puntaje F1 para Epilepsia, FD-B, Gestos y EMG, respectivamente. Además, las evaluaciones en un escenario de aprendizaje por refuerzo confirman el rendimiento superior de MDGPS. Los experimentos de ablación y visualización validan aún más la efectividad de sus componentes individuales.