Métodos de agregación basados en evaluación de modelos de calidad para aplicaciones de aprendizaje federado: visión general y análisis comparativo
Autores: Bejenar, Iuliana; Ferariu, Lavinia; Pascal, Carlos; Caruntu, Constantin-Florin
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Métodos de agregación basados en evaluación de modelos de calidad para aplicaciones de aprendizaje federado: visión general y análisis comparativo
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Aprendizaje federado
Confidencialidad de datos
Datos no IID
Muestras de entrenamiento locales
Ciberataques
Algoritmos
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 35
Citaciones: Sin citaciones
El aprendizaje federado (FL) ofrece la posibilidad de colaboración entre múltiples dispositivos mientras mantiene la confidencialidad de los datos, como lo requiere el Reglamento General de Protección de Datos (GDPR). Aunque el FL puede mantener privados los datos locales, puede enfrentar problemas al tratar con datos no independientes e idénticamente distribuidos (no-IID), muestras de entrenamiento locales insuficientes o ciberataques. Este documento presenta algoritmos que pueden proporcionar una agregación confiable del modelo global investigando la precisión de los modelos recibidos de los clientes. Esto permite reducir la influencia de nodos menos confiables, que potencialmente fueron atacados o no pudieron realizar un entrenamiento exitoso. El análisis incluye los algoritmos propuestos FedAcc y FedAccSize, junto con su nueva extensión basada en la regresión de Lasso, FedLasso. FedAcc y FedAccSize establecen la confianza en cada cliente basándose únicamente en la precisión de los modelos locales, mientras que FedLasso explota detalles adicionales relacionados con las predicciones, como las probabilidades de clase predichas, para respaldar una agregación refinada. La capacidad de los algoritmos propuestos para protegerse contra intrusos o clientes con bajo rendimiento se demuestra experimentalmente utilizando escenarios de prueba que involucran datos independientes e idénticamente distribuidos (IID) y datos no-IID. La comparación con los algoritmos establecidos FedAvg y FedAvgM muestra que explotar la calidad de los modelos de los clientes es esencial para una agregación confiable, lo que permite una mejora rápida y sólida en el modelo global.
Descripción
El aprendizaje federado (FL) ofrece la posibilidad de colaboración entre múltiples dispositivos mientras mantiene la confidencialidad de los datos, como lo requiere el Reglamento General de Protección de Datos (GDPR). Aunque el FL puede mantener privados los datos locales, puede enfrentar problemas al tratar con datos no independientes e idénticamente distribuidos (no-IID), muestras de entrenamiento locales insuficientes o ciberataques. Este documento presenta algoritmos que pueden proporcionar una agregación confiable del modelo global investigando la precisión de los modelos recibidos de los clientes. Esto permite reducir la influencia de nodos menos confiables, que potencialmente fueron atacados o no pudieron realizar un entrenamiento exitoso. El análisis incluye los algoritmos propuestos FedAcc y FedAccSize, junto con su nueva extensión basada en la regresión de Lasso, FedLasso. FedAcc y FedAccSize establecen la confianza en cada cliente basándose únicamente en la precisión de los modelos locales, mientras que FedLasso explota detalles adicionales relacionados con las predicciones, como las probabilidades de clase predichas, para respaldar una agregación refinada. La capacidad de los algoritmos propuestos para protegerse contra intrusos o clientes con bajo rendimiento se demuestra experimentalmente utilizando escenarios de prueba que involucran datos independientes e idénticamente distribuidos (IID) y datos no-IID. La comparación con los algoritmos establecidos FedAvg y FedAvgM muestra que explotar la calidad de los modelos de los clientes es esencial para una agregación confiable, lo que permite una mejora rápida y sólida en el modelo global.