Federated learning tolerante a fallas bizantinas basado en datos confiables e información histórica
Autores: Luo, Xujiang; Tang, Bin
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Federated learning tolerante a fallas bizantinas basado en datos confiables e información histórica
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Aprendizaje federado
Privacidad
Nodos bizantinos
FLTH
Tolerante a fallos
Información histórica
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 35
Citaciones: Sin citaciones
El aprendizaje federado (FL) es un método de aprendizaje automático colaborativo altamente prometedor que preserva la privacidad al permitir el entrenamiento del modelo en nodos cliente (por ejemplo, teléfonos móviles, dispositivos de Internet de las cosas) sin compartir datos crudos. Sin embargo, el FL es vulnerable a nodos bizantinos, que pueden interrumpir el rendimiento del modelo, hacer que el entrenamiento sea ineficaz o incluso manipular el modelo al transmitir gradientes dañinos. En este documento, proponemos un algoritmo FL tolerante a fallas bizantinas llamado aprendizaje federado con datos confiables e información histórica (FLTH). Utiliza un pequeño conjunto de datos de entrenamiento confiable en el servidor de parámetros para filtrar las actualizaciones de gradiente de nodos cliente sospechosos durante el entrenamiento del modelo, lo que proporciona tanto resistencia bizantina como garantía de convergencia. Además, introduce un esquema de evaluación de credibilidad basado en información histórica de modo que los nodos cliente que funcionan mal a largo plazo tengan un menor impacto en la agregación de gradientes, mejorando así la capacidad de tolerancia a fallas. Además, el FLTH no compromete la eficiencia de entrenamiento del FL debido a su baja complejidad temporal. Los extensos resultados de simulación muestran que el FLTH logra una mayor precisión del modelo en comparación con los métodos de vanguardia bajo tipos típicos de ataque.
Descripción
El aprendizaje federado (FL) es un método de aprendizaje automático colaborativo altamente prometedor que preserva la privacidad al permitir el entrenamiento del modelo en nodos cliente (por ejemplo, teléfonos móviles, dispositivos de Internet de las cosas) sin compartir datos crudos. Sin embargo, el FL es vulnerable a nodos bizantinos, que pueden interrumpir el rendimiento del modelo, hacer que el entrenamiento sea ineficaz o incluso manipular el modelo al transmitir gradientes dañinos. En este documento, proponemos un algoritmo FL tolerante a fallas bizantinas llamado aprendizaje federado con datos confiables e información histórica (FLTH). Utiliza un pequeño conjunto de datos de entrenamiento confiable en el servidor de parámetros para filtrar las actualizaciones de gradiente de nodos cliente sospechosos durante el entrenamiento del modelo, lo que proporciona tanto resistencia bizantina como garantía de convergencia. Además, introduce un esquema de evaluación de credibilidad basado en información histórica de modo que los nodos cliente que funcionan mal a largo plazo tengan un menor impacto en la agregación de gradientes, mejorando así la capacidad de tolerancia a fallas. Además, el FLTH no compromete la eficiencia de entrenamiento del FL debido a su baja complejidad temporal. Los extensos resultados de simulación muestran que el FLTH logra una mayor precisión del modelo en comparación con los métodos de vanguardia bajo tipos típicos de ataque.