Mitigando el olvido catastrófico con el aprendizaje en capas complementarias
Autores: Mondesire, Sean; Wiegand, R. Paul
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Mitigando el olvido catastrófico con el aprendizaje en capas complementarias
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Olvido catastrófico
Aprendizaje de máquina
Aprendizaje por transferencia
Redes neuronales
Aprendizaje en capas
Aprendizaje complementario
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 24
Citaciones: Sin citaciones
El olvido catastrófico es un desequilibrio entre estabilidad y plasticidad que provoca que un aprendiz de máquina pierda conocimientos previamente adquiridos que son críticos para realizar una tarea. El desequilibrio se produce en el aprendizaje por transferencia, afectando negativamente el rendimiento del aprendiz, especialmente en redes neuronales y aprendizaje en capas. Este trabajo propone una técnica de aprendizaje complementaria que introduce memoria a largo y corto plazo al aprendizaje en capas para reducir los efectos negativos del olvido catastrófico. En particular, este trabajo propone el sistema de memoria dual en los enfoques no basados en redes neuronales de computación evolutiva e instancias de Q-learning del aprendizaje en capas, ya que estas técnicas se utilizan para desarrollar capacidades de toma de decisiones para robots físicos. Los experimentos evalúan la nueva mejora de aprendizaje en un sistema de simulación de múltiples agentes, donde vehículos aéreos no tripulados autónomos aprenden a colaborar y maniobrar para inspeccionar un área de manera efectiva. A través de estos experimentos de aprendizaje basados en políticas directas y en valores, se demuestra que el aprendizaje en capas complementario propuesto mejora significativamente el rendimiento de la tarea en comparación con el aprendizaje en capas estándar, logrando equilibrar con éxito la estabilidad y la plasticidad.
Descripción
El olvido catastrófico es un desequilibrio entre estabilidad y plasticidad que provoca que un aprendiz de máquina pierda conocimientos previamente adquiridos que son críticos para realizar una tarea. El desequilibrio se produce en el aprendizaje por transferencia, afectando negativamente el rendimiento del aprendiz, especialmente en redes neuronales y aprendizaje en capas. Este trabajo propone una técnica de aprendizaje complementaria que introduce memoria a largo y corto plazo al aprendizaje en capas para reducir los efectos negativos del olvido catastrófico. En particular, este trabajo propone el sistema de memoria dual en los enfoques no basados en redes neuronales de computación evolutiva e instancias de Q-learning del aprendizaje en capas, ya que estas técnicas se utilizan para desarrollar capacidades de toma de decisiones para robots físicos. Los experimentos evalúan la nueva mejora de aprendizaje en un sistema de simulación de múltiples agentes, donde vehículos aéreos no tripulados autónomos aprenden a colaborar y maniobrar para inspeccionar un área de manera efectiva. A través de estos experimentos de aprendizaje basados en políticas directas y en valores, se demuestra que el aprendizaje en capas complementario propuesto mejora significativamente el rendimiento de la tarea en comparación con el aprendizaje en capas estándar, logrando equilibrar con éxito la estabilidad y la plasticidad.