Computación y comunicación eficientes para la optimización adaptativa federada del aprendizaje federado para Internet de las cosas
Autores: Chen, Zunming; Cui, Hongyan; Wu, Ensen; Yu, Xi
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Computación y comunicación eficientes para la optimización adaptativa federada del aprendizaje federado para Internet de las cosas
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Internet de las cosas
Inteligencia artificial
Aprendizaje federado
Privacidad de datos
Capacidades de comunicación
Computación
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 48
Citaciones: Sin citaciones
La proliferación del Internet de las cosas (IoT) y el uso generalizado de dispositivos con capacidades de detección, computación y comunicación han motivado aplicaciones inteligentes potenciadas por la inteligencia artificial. Los algoritmos clásicos de inteligencia artificial requieren la recopilación y procesamiento de datos centralizados, lo cual es desafiante en aplicaciones inteligentes realistas de IoT debido a las crecientes preocupaciones de privacidad de datos y conjuntos de datos distribuidos. El Aprendizaje Federado (FL) ha surgido como un marco de aprendizaje distribuido que preserva la privacidad, lo que permite a los dispositivos de IoT entrenar modelos globales mediante el intercambio de parámetros del modelo. Sin embargo, la ineficiencia debido a transmisiones frecuentes de parámetros reduce significativamente el rendimiento de FL. Los algoritmos de aceleración existentes consisten en dos tipos principales, incluida la actualización local y la compresión de parámetros, que consideran los compromisos entre la comunicación y la computación/precisión, respectivamente. La consideración conjunta de estos dos compromisos y el equilibrio adaptativo de sus impactos en la convergencia han permanecido sin resolver. Para resolver el problema, este documento propone un nuevo algoritmo de optimización federada adaptativa eficiente (FedEAFO) para mejorar la eficiencia de FL, que minimiza el error de aprendizaje mediante la consideración conjunta de dos variables que incluyen la actualización local y la compresión de parámetros. El FedEAFO permite a FL ajustar adaptativamente dos variables y equilibrar los compromisos entre la computación, la comunicación y la precisión. Los resultados del experimento ilustran que en comparación con los algoritmos de vanguardia, el FedEAFO puede lograr mayores precisión de manera más rápida.
Descripción
La proliferación del Internet de las cosas (IoT) y el uso generalizado de dispositivos con capacidades de detección, computación y comunicación han motivado aplicaciones inteligentes potenciadas por la inteligencia artificial. Los algoritmos clásicos de inteligencia artificial requieren la recopilación y procesamiento de datos centralizados, lo cual es desafiante en aplicaciones inteligentes realistas de IoT debido a las crecientes preocupaciones de privacidad de datos y conjuntos de datos distribuidos. El Aprendizaje Federado (FL) ha surgido como un marco de aprendizaje distribuido que preserva la privacidad, lo que permite a los dispositivos de IoT entrenar modelos globales mediante el intercambio de parámetros del modelo. Sin embargo, la ineficiencia debido a transmisiones frecuentes de parámetros reduce significativamente el rendimiento de FL. Los algoritmos de aceleración existentes consisten en dos tipos principales, incluida la actualización local y la compresión de parámetros, que consideran los compromisos entre la comunicación y la computación/precisión, respectivamente. La consideración conjunta de estos dos compromisos y el equilibrio adaptativo de sus impactos en la convergencia han permanecido sin resolver. Para resolver el problema, este documento propone un nuevo algoritmo de optimización federada adaptativa eficiente (FedEAFO) para mejorar la eficiencia de FL, que minimiza el error de aprendizaje mediante la consideración conjunta de dos variables que incluyen la actualización local y la compresión de parámetros. El FedEAFO permite a FL ajustar adaptativamente dos variables y equilibrar los compromisos entre la computación, la comunicación y la precisión. Los resultados del experimento ilustran que en comparación con los algoritmos de vanguardia, el FedEAFO puede lograr mayores precisión de manera más rápida.