Backdoor federated learning mediante la manipulación de parámetros clave
Autores: Song, Xuan; Li, Huibin; Hu, Kailang; Zai, Guangjun
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Backdoor federated learning mediante la manipulación de parámetros clave
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Aprendizaje federado
Amenazas de puerta trasera
Análisis de parámetros clave
Mecanismo de retroalimentación de baliza
Estrategias de ataque adaptativas
Tasa de éxito del ataque
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 32
Citaciones: Sin citaciones
El aprendizaje federado (FL) utiliza el procesamiento distribuido de datos para permitir el desarrollo colaborativo de modelos de aprendizaje automático mientras se protege la privacidad del usuario. Sin embargo, la naturaleza descentralizada de FL, combinada con la heterogeneidad de los datos, amplía sustancialmente la superficie de ataque para las amenazas de puerta trasera. Las estrategias existentes de ataque y defensa de FL suelen apuntar al modelo completo, descuidando los parámetros críticos de la puerta trasera, un pequeño subconjunto de parámetros que controlan las vulnerabilidades del modelo. Centrarse en estos parámetros puede replicar el impacto de atacar al modelo completo mientras reduce en gran medida el riesgo de detección por defensas avanzadas. Para abordar este desafío, presentamos el Ataque de Puerta Trasera de Parámetro Clave en el Aprendizaje Federado (KPBAFL), un marco innovador, adaptable y escalable diseñado específicamente para explotar las vulnerabilidades del modelo al apuntar a los parámetros críticos de la puerta trasera. KPBAFL integra tres componentes principales: análisis de parámetros clave, un mecanismo de retroalimentación de balizas y estrategias de ataque adaptables. Al incrustar balizas dentro del modelo de puerta trasera, el marco puede recopilar retroalimentación de ataque en tiempo real y ajustar dinámicamente su estrategia en consecuencia. Cuando estos componentes operan en conjunto, KPBAFL muestra una excepcional sigilosidad, logrando una tasa de éxito de ataque (ASR) que supera el 96.5% mientras mantiene una precisión de tarea benigna (BTA) del 97.8% en varios conjuntos de datos y modelos. Experimentos extensos demuestran su efectividad, incluso en presencia de defensas avanzadas como FLAME, Fldetector, Rflbat y Deepsight, destacando su fuerte generalizabilidad. Aunque el diseño modular asegura la adaptabilidad, el rendimiento del marco puede degradarse significativamente si los componentes no están correctamente sincronizados. Nuestra investigación proporciona una base crítica para comprender y mitigar las vulnerabilidades de puerta trasera en sistemas de aprendizaje federado.
Descripción
El aprendizaje federado (FL) utiliza el procesamiento distribuido de datos para permitir el desarrollo colaborativo de modelos de aprendizaje automático mientras se protege la privacidad del usuario. Sin embargo, la naturaleza descentralizada de FL, combinada con la heterogeneidad de los datos, amplía sustancialmente la superficie de ataque para las amenazas de puerta trasera. Las estrategias existentes de ataque y defensa de FL suelen apuntar al modelo completo, descuidando los parámetros críticos de la puerta trasera, un pequeño subconjunto de parámetros que controlan las vulnerabilidades del modelo. Centrarse en estos parámetros puede replicar el impacto de atacar al modelo completo mientras reduce en gran medida el riesgo de detección por defensas avanzadas. Para abordar este desafío, presentamos el Ataque de Puerta Trasera de Parámetro Clave en el Aprendizaje Federado (KPBAFL), un marco innovador, adaptable y escalable diseñado específicamente para explotar las vulnerabilidades del modelo al apuntar a los parámetros críticos de la puerta trasera. KPBAFL integra tres componentes principales: análisis de parámetros clave, un mecanismo de retroalimentación de balizas y estrategias de ataque adaptables. Al incrustar balizas dentro del modelo de puerta trasera, el marco puede recopilar retroalimentación de ataque en tiempo real y ajustar dinámicamente su estrategia en consecuencia. Cuando estos componentes operan en conjunto, KPBAFL muestra una excepcional sigilosidad, logrando una tasa de éxito de ataque (ASR) que supera el 96.5% mientras mantiene una precisión de tarea benigna (BTA) del 97.8% en varios conjuntos de datos y modelos. Experimentos extensos demuestran su efectividad, incluso en presencia de defensas avanzadas como FLAME, Fldetector, Rflbat y Deepsight, destacando su fuerte generalizabilidad. Aunque el diseño modular asegura la adaptabilidad, el rendimiento del marco puede degradarse significativamente si los componentes no están correctamente sincronizados. Nuestra investigación proporciona una base crítica para comprender y mitigar las vulnerabilidades de puerta trasera en sistemas de aprendizaje federado.