Privacidad-preservando aprendizaje distribuido a través del algoritmo de Newton
Autores: Cao, Zilong; Guo, Xiao; Zhang, Hai
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Privacidad-preservando aprendizaje distribuido a través del algoritmo de Newton
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Aprendizaje federado
Costo de comunicación
Violaciones de privacidad
Preservación de la privacidad
Privacidad diferencial
Ruido gaussiano
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 33
Citaciones: Sin citaciones
El aprendizaje federado (FL) es un marco de aprendizaje distribuido prominente. Las principales barreras del FL incluyen el costo de comunicación y las violaciones de privacidad. En este trabajo, proponemos un nuevo método de FL basado en segundo orden que preserva la privacidad, llamado. Para mejorar la eficiencia de la comunicación, utilizamos el método de Newton para iterar y permitir cálculos locales antes de la agregación. Para garantizar una fuerte privacidad, utilizamos la noción de privacidad diferencial (DP) para agregar ruido gaussiano en cada iteración. Utilizando herramientas avanzadas de privacidad diferencial gaussiana (GDP), demostramos que el algoritmo propuesto satisface la noción fuerte de GDP. También establecemos la convergencia de nuestro algoritmo. Resulta que el error de convergencia proviene de la computación local y del ruido gaussiano para DP. Realizamos experimentos para mostrar los méritos del algoritmo propuesto.
Descripción
El aprendizaje federado (FL) es un marco de aprendizaje distribuido prominente. Las principales barreras del FL incluyen el costo de comunicación y las violaciones de privacidad. En este trabajo, proponemos un nuevo método de FL basado en segundo orden que preserva la privacidad, llamado. Para mejorar la eficiencia de la comunicación, utilizamos el método de Newton para iterar y permitir cálculos locales antes de la agregación. Para garantizar una fuerte privacidad, utilizamos la noción de privacidad diferencial (DP) para agregar ruido gaussiano en cada iteración. Utilizando herramientas avanzadas de privacidad diferencial gaussiana (GDP), demostramos que el algoritmo propuesto satisface la noción fuerte de GDP. También establecemos la convergencia de nuestro algoritmo. Resulta que el error de convergencia proviene de la computación local y del ruido gaussiano para DP. Realizamos experimentos para mostrar los méritos del algoritmo propuesto.