logo móvil
Contáctanos

Mejorando el aprendizaje federado asistido por el borde con agregación asíncrona y emparejamiento de clústeres

Autores: Sha, Xiaobao; Sun, Wenjian; Liu, Xiang; Luo, Yang; Luo, Chunbo

Idioma: Inglés

Editor: MDPI

Año: 2024

Descargar PDF

Acceso abierto

Artículo científico
2024

Mejorando el aprendizaje federado asistido por el borde con agregación asíncrona y emparejamiento de clústeres


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería Eléctrica y Electrónica

Palabras clave

Aprendizaje federado
Agregación de modelos
Servidores periféricos
Sobrecarga de comunicación
Entrenamiento asíncrono
Velocidad de convergencia

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 30

Citaciones: Sin citaciones


Descripción
El aprendizaje federado (FL) es ampliamente considerado como altamente prometedor porque permite el entrenamiento colaborativo de modelos de aprendizaje automático de alto rendimiento entre un gran número de clientes mientras se preserva la privacidad de los datos al mantener los datos de forma local. Sin embargo, muchos marcos de FL existentes tienen una arquitectura de dos capas, lo que requiere el intercambio frecuente de parámetros de modelo a gran escala entre clientes y servidores remotos en la nube sobre redes a menudo inestables, lo que resulta en una comunicación significativa y latencia. Para abordar este problema, proponemos introducir servidores intermedios entre los clientes y el servidor en la nube para ayudar en la agregación de modelos locales, combinando así la agregación de modelos asincrónica cliente-servidor intermedio con la agregación de modelos síncrona servidor intermedio-nube. Al aprovechar el tiempo inactivo de los clientes para acelerar el entrenamiento, el marco propuesto puede lograr una convergencia más rápida y reducir la cantidad de tráfico de comunicación. Para aprovechar al máximo las propiedades de agrupación inherentes en el FL de tres capas, proponemos una estrategia de coincidencia de similitud entre servidores intermedios y clientes, mejorando así el efecto del entrenamiento asincrónico. Además, proponemos introducir el aprendizaje contrastivo de modelos en la función de pérdida y personalizar los modelos locales de los clientes para abordar los posibles problemas de aprendizaje resultantes del entrenamiento local asincrónico, con el fin de mejorar aún más la velocidad de convergencia. Experimentos extensos confirman que nuestro método muestra mejoras significativas en la precisión del modelo y la velocidad de convergencia en comparación con otras arquitecturas de aprendizaje federado de última generación.

Otros recursos que podrían interesarte

Temas Virtualpro