Investigación y aplicación del método de defensa contra ataques de redes generativas adversarias basado en aprendizaje federado
Autores: Ma, Xiaoyu; Gu, Lize
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Investigación y aplicación del método de defensa contra ataques de redes generativas adversarias basado en aprendizaje federado
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Aprendizaje federado
Redes generativas adversarias
Defensa-gan
Shap
Cutmix
Privacidad del cliente
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 20
Citaciones: Sin citaciones
En los últimos años, el Aprendizaje Federado ha atraído mucha atención porque resuelve en cierta medida el problema de los silos de datos en el aprendizaje automático. Sin embargo, muchos estudios han demostrado que los ataques basados en Redes Generativas Antagónicas representan una gran amenaza para el Aprendizaje Federado. Este documento propone Defense-GAN, un método de defensa contra los ataques de Redes Generativas Antagónicas en el Aprendizaje Federado. Bajo este método, el atacante no puede aprender la distribución real de datos de imagen. Cada participante en el Aprendizaje Federado utiliza SHAP para explicar el modelo y enmascarar las características de píxeles que tienen un mayor impacto en la clasificación y reconocimiento en sus respectivos datos de imagen. Los resultados experimentales muestran que al atacar el modelo de entrenamiento federado utilizando imágenes enmascaradas, el atacante no siempre puede obtener la verdad de las imágenes. Al mismo tiempo, este documento también utiliza CutMix para mejorar la capacidad de generalización del modelo, y la precisión del modelo obtenido es solo un 1% diferente de la del modelo entrenado con los datos originales. Los resultados muestran que el método de defensa propuesto en este documento no solo puede resistir los ataques de Redes Generativas Antagónicas en el Aprendizaje Federado y proteger la privacidad del cliente, sino que también asegura que la precisión del modelo del modelo Federado no se verá afectada en gran medida.
Descripción
En los últimos años, el Aprendizaje Federado ha atraído mucha atención porque resuelve en cierta medida el problema de los silos de datos en el aprendizaje automático. Sin embargo, muchos estudios han demostrado que los ataques basados en Redes Generativas Antagónicas representan una gran amenaza para el Aprendizaje Federado. Este documento propone Defense-GAN, un método de defensa contra los ataques de Redes Generativas Antagónicas en el Aprendizaje Federado. Bajo este método, el atacante no puede aprender la distribución real de datos de imagen. Cada participante en el Aprendizaje Federado utiliza SHAP para explicar el modelo y enmascarar las características de píxeles que tienen un mayor impacto en la clasificación y reconocimiento en sus respectivos datos de imagen. Los resultados experimentales muestran que al atacar el modelo de entrenamiento federado utilizando imágenes enmascaradas, el atacante no siempre puede obtener la verdad de las imágenes. Al mismo tiempo, este documento también utiliza CutMix para mejorar la capacidad de generalización del modelo, y la precisión del modelo obtenido es solo un 1% diferente de la del modelo entrenado con los datos originales. Los resultados muestran que el método de defensa propuesto en este documento no solo puede resistir los ataques de Redes Generativas Antagónicas en el Aprendizaje Federado y proteger la privacidad del cliente, sino que también asegura que la precisión del modelo del modelo Federado no se verá afectada en gran medida.