FedGCN: Redes convolucionales de grafos basadas en aprendizaje federado para datos espaciales no euclídeos
Autores: Hu, Kai; Wu, Jiasheng; Li, Yaogen; Lu, Meixia; Weng, Liguo; Xia, Min
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
FedGCN: Redes convolucionales de grafos basadas en aprendizaje federado para datos espaciales no euclídeos
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Aprendizaje federado
Algoritmos de aprendizaje federado
Datos espaciales no euclídeos
Redes Convolucionales de Grafos
Mecanismo de atención
Algoritmo de agregación
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 29
Citaciones: Sin citaciones
El Aprendizaje Federado (FL) puede combinar múltiples clientes para el entrenamiento y mantener los datos del cliente de forma local, lo que es una buena manera de proteger la privacidad de los datos. Hay muchos algoritmos excelentes de FL. Sin embargo, la mayoría de estos solo pueden procesar datos con estructuras regulares, como imágenes y videos. No pueden procesar datos espaciales no euclídeos, es decir, datos irregulares. Para abordar este problema, proponemos una Red Convolucional de Grafos Basada en Aprendizaje Federado (FedGCN). Primero, proponemos una Red Convolucional de Grafos (GCN) como un modelo local de FL. Basado en la red neuronal convolucional de grafos clásica, se añaden capas de agrupación TopK y capas de conexión completa a este modelo para mejorar la capacidad de extracción de características. Además, para evitar que las capas de agrupación pierdan información, se utiliza la fusión entre capas en el GCN, dándole a FL una excelente capacidad para procesar datos espaciales no euclídeos. En segundo lugar, en este documento, se propone un algoritmo de agregación federado basado en un mecanismo de atención ajustable en línea. Se introduce un parámetro entrenable en el mecanismo de atención. El método de agregación asigna el coeficiente de atención correspondiente a cada modelo local, lo que reduce el daño causado por los parámetros ineficientes del modelo local al modelo global y mejora la tolerancia a fallos y la precisión del algoritmo FL. Finalmente, realizamos experimentos en seis conjuntos de datos espaciales no euclídeos para verificar que el algoritmo propuesto no solo tiene buena precisión, sino que también tiene cierto grado de generalidad. El algoritmo propuesto también puede funcionar bien en diferentes redes neuronales de grafos.
Descripción
El Aprendizaje Federado (FL) puede combinar múltiples clientes para el entrenamiento y mantener los datos del cliente de forma local, lo que es una buena manera de proteger la privacidad de los datos. Hay muchos algoritmos excelentes de FL. Sin embargo, la mayoría de estos solo pueden procesar datos con estructuras regulares, como imágenes y videos. No pueden procesar datos espaciales no euclídeos, es decir, datos irregulares. Para abordar este problema, proponemos una Red Convolucional de Grafos Basada en Aprendizaje Federado (FedGCN). Primero, proponemos una Red Convolucional de Grafos (GCN) como un modelo local de FL. Basado en la red neuronal convolucional de grafos clásica, se añaden capas de agrupación TopK y capas de conexión completa a este modelo para mejorar la capacidad de extracción de características. Además, para evitar que las capas de agrupación pierdan información, se utiliza la fusión entre capas en el GCN, dándole a FL una excelente capacidad para procesar datos espaciales no euclídeos. En segundo lugar, en este documento, se propone un algoritmo de agregación federado basado en un mecanismo de atención ajustable en línea. Se introduce un parámetro entrenable en el mecanismo de atención. El método de agregación asigna el coeficiente de atención correspondiente a cada modelo local, lo que reduce el daño causado por los parámetros ineficientes del modelo local al modelo global y mejora la tolerancia a fallos y la precisión del algoritmo FL. Finalmente, realizamos experimentos en seis conjuntos de datos espaciales no euclídeos para verificar que el algoritmo propuesto no solo tiene buena precisión, sino que también tiene cierto grado de generalidad. El algoritmo propuesto también puede funcionar bien en diferentes redes neuronales de grafos.