Modelo de marca de agua de caja negra dinámica para aprendizaje federado heterogéneo
Autores: Liao, Yuying; Jiang, Rong; Zhou, Bin
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Modelo de marca de agua de caja negra dinámica para aprendizaje federado heterogéneo
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Aprendizaje federado
Heterogéneo
Protección de la propiedad del modelo
Método de marca de agua
Red generativa adversaria
Extracción de marca de agua
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 37
Citaciones: Sin citaciones
El aprendizaje federado heterogéneo, como una variante innovadora del aprendizaje federado, tiene como objetivo romper las limitaciones del aprendizaje federado convencional en la consistencia de las arquitecturas de modelos para adaptarse mejor a la heterogeneidad en escenarios de computación móvil. Introduce modelos locales heterogéneos y personalizados, lo que permite acomodar eficazmente las distribuciones de datos heterogéneas y las limitaciones de recursos de hardware de los clientes individuales, mejorando así la eficiencia de cálculo y comunicación. Sin embargo, plantea un desafío para la protección de la propiedad del modelo, ya que las marcas de agua incrustadas en el modelo global se corrompen en diversos grados cuando se migran a un modelo heterogéneo de un usuario y no pueden seguir proporcionando una protección completa de la propiedad en los modelos locales. Para abordar estos problemas, proponemos un método de marca de agua de modelo de caja negra dinámico para el aprendizaje federado heterogéneo, PWFed. Específicamente, diseñamos un innovador método de generación de marcas de agua dinámicas basado en la tecnología de redes generativas adversarias y capaz de generar muestras de marcas de agua que son virtualmente indistinguibles de los portadores originales. Este enfoque resuelve eficazmente la limitación de la técnica de marca de agua de caja negra tradicional, que solo considera marcas de agua estáticas, y hace que las marcas de agua generadas mejoren significativamente en términos de sigilo y dificultad para detectar por posibles ladrones de modelos, mejorando así la robustez de las marcas de agua. Además, diseñamos dos estrategias de incrustación de marcas de agua con diferentes granularidades en el entorno de aprendizaje federado heterogéneo. Durante la fase de extracción y validación de la marca de agua, PWFed accede a las muestras de marca de agua que reclaman la propiedad del modelo a través de una interfaz API y analiza las diferencias entre su salida y las etiquetas esperadas. Nuestros resultados experimentales muestran que PWFed logra una tasa de verificación de marca de agua del 99.9% con solo un sacrificio del 0.1-4.8% de precisión en la tarea principal en el conjunto de datos CIFAR10.
Descripción
El aprendizaje federado heterogéneo, como una variante innovadora del aprendizaje federado, tiene como objetivo romper las limitaciones del aprendizaje federado convencional en la consistencia de las arquitecturas de modelos para adaptarse mejor a la heterogeneidad en escenarios de computación móvil. Introduce modelos locales heterogéneos y personalizados, lo que permite acomodar eficazmente las distribuciones de datos heterogéneas y las limitaciones de recursos de hardware de los clientes individuales, mejorando así la eficiencia de cálculo y comunicación. Sin embargo, plantea un desafío para la protección de la propiedad del modelo, ya que las marcas de agua incrustadas en el modelo global se corrompen en diversos grados cuando se migran a un modelo heterogéneo de un usuario y no pueden seguir proporcionando una protección completa de la propiedad en los modelos locales. Para abordar estos problemas, proponemos un método de marca de agua de modelo de caja negra dinámico para el aprendizaje federado heterogéneo, PWFed. Específicamente, diseñamos un innovador método de generación de marcas de agua dinámicas basado en la tecnología de redes generativas adversarias y capaz de generar muestras de marcas de agua que son virtualmente indistinguibles de los portadores originales. Este enfoque resuelve eficazmente la limitación de la técnica de marca de agua de caja negra tradicional, que solo considera marcas de agua estáticas, y hace que las marcas de agua generadas mejoren significativamente en términos de sigilo y dificultad para detectar por posibles ladrones de modelos, mejorando así la robustez de las marcas de agua. Además, diseñamos dos estrategias de incrustación de marcas de agua con diferentes granularidades en el entorno de aprendizaje federado heterogéneo. Durante la fase de extracción y validación de la marca de agua, PWFed accede a las muestras de marca de agua que reclaman la propiedad del modelo a través de una interfaz API y analiza las diferencias entre su salida y las etiquetas esperadas. Nuestros resultados experimentales muestran que PWFed logra una tasa de verificación de marca de agua del 99.9% con solo un sacrificio del 0.1-4.8% de precisión en la tarea principal en el conjunto de datos CIFAR10.