Arquitectura de transformador no estacionaria: un marco versátil para sistemas de recomendación
Autores: Liu, Yuchen; Li, Gangmin; Payne, Terry R.; Yue, Yong; Man, Ka Lok
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Arquitectura de transformador no estacionaria: un marco versátil para sistemas de recomendación
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Sistemas de recomendación
Datos de usuario
Transformador no estacionario
Aprendizaje profundo
Aprendizaje por refuerzo
Dinámica temporal
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 37
Citaciones: Sin citaciones
Los sistemas de recomendación son cruciales para navegar por el vasto mercado digital. Sin embargo, la naturaleza dinámica y no estacionaria de los datos de usuario a menudo obstaculiza su eficacia. Los modelos tradicionales luchan por adaptarse a las preferencias y comportamientos en evolución inherentes a los datos de interacción del usuario, lo que plantea un desafío significativo para la predicción precisa y la personalización. Abordando esto, proponemos un marco teórico novedoso, el transformador no estacionario, diseñado para capturar y aprovechar de manera efectiva la dinámica temporal dentro de los datos. Este enfoque mejora la arquitectura tradicional del transformador al introducir mecanismos que tienen en cuenta elementos no estacionarios, ofreciendo una solución robusta y adaptable para sistemas de recomendación multitarea. Nuestro análisis experimental, que abarca paradigmas de aprendizaje profundo (DL) y aprendizaje por refuerzo (RL), demuestra la superioridad del marco sobre los modelos de referencia. Los resultados empíricos confirman la eficacia de nuestro marco propuesto, que proporciona mejoras significativas en el rendimiento, aproximadamente un 8% en la reducción de LogLoss y hasta un 2% de aumento en la puntuación F1 con otros modelos relacionados con la atención. También subraya su aplicabilidad potencial en escenarios de recompensa acumulativa con modelos de aprendizaje por refuerzo puro. Estos hallazgos abogan por adoptar modelos de transformadores no estacionarios para abordar las complejidades de las tareas de recomendación actuales.
Descripción
Los sistemas de recomendación son cruciales para navegar por el vasto mercado digital. Sin embargo, la naturaleza dinámica y no estacionaria de los datos de usuario a menudo obstaculiza su eficacia. Los modelos tradicionales luchan por adaptarse a las preferencias y comportamientos en evolución inherentes a los datos de interacción del usuario, lo que plantea un desafío significativo para la predicción precisa y la personalización. Abordando esto, proponemos un marco teórico novedoso, el transformador no estacionario, diseñado para capturar y aprovechar de manera efectiva la dinámica temporal dentro de los datos. Este enfoque mejora la arquitectura tradicional del transformador al introducir mecanismos que tienen en cuenta elementos no estacionarios, ofreciendo una solución robusta y adaptable para sistemas de recomendación multitarea. Nuestro análisis experimental, que abarca paradigmas de aprendizaje profundo (DL) y aprendizaje por refuerzo (RL), demuestra la superioridad del marco sobre los modelos de referencia. Los resultados empíricos confirman la eficacia de nuestro marco propuesto, que proporciona mejoras significativas en el rendimiento, aproximadamente un 8% en la reducción de LogLoss y hasta un 2% de aumento en la puntuación F1 con otros modelos relacionados con la atención. También subraya su aplicabilidad potencial en escenarios de recompensa acumulativa con modelos de aprendizaje por refuerzo puro. Estos hallazgos abogan por adoptar modelos de transformadores no estacionarios para abordar las complejidades de las tareas de recomendación actuales.