logo móvil
Contáctanos

Análisis Comparativo de Ataques de Inferencia de Membresía en Aprendizaje Federado y Centralizado

Autores: Abbasi Tadi, Ali; Dayal, Saroj; Alhadidi, Dima; Mohammed, Noman

Idioma: Inglés

Editor: MDPI

Año: 2023

Descargar PDF

Acceso abierto

Artículo científico
2023

Análisis Comparativo de Ataques de Inferencia de Membresía en Aprendizaje Federado y Centralizado


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Modelos de aprendizaje automático
Ataques de inferencia de membresía
Aprendizaje federado
Ventajas de privacidad
Datos sensibles
Defensas

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
La vulnerabilidad de los modelos de aprendizaje automático a los ataques de inferencia de membresía, que tienen como objetivo determinar si un registro específico pertenece al conjunto de datos de entrenamiento, se explora en este documento. El aprendizaje federado permite a múltiples partes entrenar un modelo de manera independiente sin compartir o centralizar sus datos, ofreciendo ventajas de privacidad. Sin embargo, cuando se utilizan conjuntos de datos privados en el aprendizaje federado y se concede acceso al modelo, surge el riesgo de ataques de inferencia de membresía, lo que podría comprometer datos sensibles. Para abordar esto, se deben desarrollar defensas efectivas en un entorno de aprendizaje federado sin comprometer la utilidad del modelo objetivo. Este estudio investiga empíricamente y compara metodologías de ataque de inferencia de membresía en entornos de aprendizaje federado y centralizado, utilizando diversos optimizadores y evaluando ataques con y sin defensas en conjuntos de datos de imágenes y tabulares. Los hallazgos demuestran que una combinación de destilación de conocimiento y técnicas de mitigación convencionales (como el abandono gaussiano, el ruido gaussiano y la regularización de actividad) mitiga significativamente el riesgo de filtración de información tanto en entornos federados como centralizados.

Otros recursos que podrían interesarte

Temas Virtualpro