Cvfl: un esquema de aprendizaje federado en forma de cadena y verificable con eficiencia computacional basado en funciones de interpolación de Lagrange
Autores: Wang, Mengnan; Cao, Chunjie; Wang, Xiangyu; Zhang, Qi; Jing, Zhaoxing; Li, Haochen; Sun, Jingzhang
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Cvfl: un esquema de aprendizaje federado en forma de cadena y verificable con eficiencia computacional basado en funciones de interpolación de Lagrange
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Privacidad de datos
Preocupaciones de seguridad
Aprendizaje federado
Parámetros de agregación
Precisión del modelo
Protocolo de encriptación
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 34
Citaciones: Sin citaciones
Las preocupaciones sobre la privacidad y seguridad de los datos han atraído una atención significativa, lo que ha llevado a la frecuente aparición de silos de datos en el aprendizaje profundo. Para abordar este problema, ha surgido el aprendizaje federado (FL). Sin embargo, los marcos de aprendizaje federado simples todavía enfrentan dos riesgos de seguridad durante el proceso de entrenamiento. En primer lugar, compartir gradientes locales en lugar de conjuntos de datos privados entre usuarios no elimina completamente la posibilidad de fuga de datos. En segundo lugar, los servidores maliciosos podrían obtener parámetros de agregación inexactos al forjar o simplificar el proceso de agregación, lo que finalmente conduce a fallos en el entrenamiento del modelo. Para abordar estos problemas y lograr modelos de entrenamiento de alto rendimiento, hemos diseñado un esquema de aprendizaje federado verificable llamado CVFL, donde los usuarios existen de manera serial para resistir los ataques de inferencia y proteger aún más la privacidad de la información del conjunto de datos del usuario a través de un cifrado serial. Garantizamos la agregación segura de modelos a través de un protocolo de verificación basado en funciones de interpolación de Lagrange. La transmisión serial de gradientes locales reduce efectivamente la carga de comunicación en los servidores en la nube, y nuestro protocolo de verificación evita la sobrecarga computacional causada por un gran número de operaciones de cifrado y descifrado sin sacrificar la precisión del modelo. Los resultados experimentales en el conjunto de datos MNIST demuestran que, después de 10 épocas de entrenamiento con 100 usuarios, nuestra solución logra una precisión del modelo del 90.63% para la arquitectura MLP bajo distribución de datos IID y del 87.47% bajo distribución de datos no IID. Para la arquitectura CNN, nuestra solución logra una precisión del modelo del 96.72% bajo distribución de datos IID y del 93.53% bajo distribución de datos no IID. Las evaluaciones experimentales corroboran el rendimiento práctico del esquema presentado con alta precisión y eficiencia.
Descripción
Las preocupaciones sobre la privacidad y seguridad de los datos han atraído una atención significativa, lo que ha llevado a la frecuente aparición de silos de datos en el aprendizaje profundo. Para abordar este problema, ha surgido el aprendizaje federado (FL). Sin embargo, los marcos de aprendizaje federado simples todavía enfrentan dos riesgos de seguridad durante el proceso de entrenamiento. En primer lugar, compartir gradientes locales en lugar de conjuntos de datos privados entre usuarios no elimina completamente la posibilidad de fuga de datos. En segundo lugar, los servidores maliciosos podrían obtener parámetros de agregación inexactos al forjar o simplificar el proceso de agregación, lo que finalmente conduce a fallos en el entrenamiento del modelo. Para abordar estos problemas y lograr modelos de entrenamiento de alto rendimiento, hemos diseñado un esquema de aprendizaje federado verificable llamado CVFL, donde los usuarios existen de manera serial para resistir los ataques de inferencia y proteger aún más la privacidad de la información del conjunto de datos del usuario a través de un cifrado serial. Garantizamos la agregación segura de modelos a través de un protocolo de verificación basado en funciones de interpolación de Lagrange. La transmisión serial de gradientes locales reduce efectivamente la carga de comunicación en los servidores en la nube, y nuestro protocolo de verificación evita la sobrecarga computacional causada por un gran número de operaciones de cifrado y descifrado sin sacrificar la precisión del modelo. Los resultados experimentales en el conjunto de datos MNIST demuestran que, después de 10 épocas de entrenamiento con 100 usuarios, nuestra solución logra una precisión del modelo del 90.63% para la arquitectura MLP bajo distribución de datos IID y del 87.47% bajo distribución de datos no IID. Para la arquitectura CNN, nuestra solución logra una precisión del modelo del 96.72% bajo distribución de datos IID y del 93.53% bajo distribución de datos no IID. Las evaluaciones experimentales corroboran el rendimiento práctico del esquema presentado con alta precisión y eficiencia.