FedUA: Un esquema de aprendizaje federado basado en destilación consciente de la incertidumbre para la clasificación de imágenes
Autores: Lee, Shao-Ming; Wu, Ja-Ling
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
FedUA: Un esquema de aprendizaje federado basado en destilación consciente de la incertidumbre para la clasificación de imágenes
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Aprendizaje federado
Seguridad de datos
Desequilibrio
Datos no IID
Agregación de modelos
Cuantificación de la incertidumbre
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Recientemente, el aprendizaje federado (FL) se ha convertido gradualmente en un tema de investigación importante en el aprendizaje automático y la teoría de la información. FL enfatiza que los clientes participan conjuntamente en la resolución de tareas de aprendizaje. Además de los problemas de seguridad de los datos, los desafíos fundamentales en este tipo de aprendizaje incluyen el desequilibrio y la no IID entre los datos de los clientes y las conexiones poco fiables entre dispositivos debido a los anchos de banda de comunicación limitados. Los problemas mencionados son intratables para FL. Este estudio parte del análisis de incertidumbre de las redes neuronales profundas (DNN) para evaluar la efectividad de FL y propone una nueva arquitectura para la agregación de modelos. Nuestro esquema mejora el rendimiento de FL aplicando métodos de destilación de conocimiento y cuantificación de incertidumbre de la DNN. Una serie de experimentos en la tarea de clasificación de imágenes confirma que nuestro esquema de agregación de modelos propuesto puede resolver eficazmente el problema de los datos no IID, especialmente cuando los costos de transmisión asequibles son limitados.
Descripción
Recientemente, el aprendizaje federado (FL) se ha convertido gradualmente en un tema de investigación importante en el aprendizaje automático y la teoría de la información. FL enfatiza que los clientes participan conjuntamente en la resolución de tareas de aprendizaje. Además de los problemas de seguridad de los datos, los desafíos fundamentales en este tipo de aprendizaje incluyen el desequilibrio y la no IID entre los datos de los clientes y las conexiones poco fiables entre dispositivos debido a los anchos de banda de comunicación limitados. Los problemas mencionados son intratables para FL. Este estudio parte del análisis de incertidumbre de las redes neuronales profundas (DNN) para evaluar la efectividad de FL y propone una nueva arquitectura para la agregación de modelos. Nuestro esquema mejora el rendimiento de FL aplicando métodos de destilación de conocimiento y cuantificación de incertidumbre de la DNN. Una serie de experimentos en la tarea de clasificación de imágenes confirma que nuestro esquema de agregación de modelos propuesto puede resolver eficazmente el problema de los datos no IID, especialmente cuando los costos de transmisión asequibles son limitados.