Desbiasing local de datos para equidad basado en entrenamiento adversarial generativo
Autores: Aïvodji, Ulrich; Bidet, François; Gambs, Sébastien; Ngueveu, Rosin Claude; Tapp, Alain
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Desbiasing local de datos para equidad basado en entrenamiento adversarial generativo
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Software
Palabras clave
Procesos de decisión automatizados
Problemas éticos
Discriminación
Enfoque de entrenamiento adversarial
Desinfectante
Equidad
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 68
Citaciones: Sin citaciones
El uso generalizado de procesos de decisión automatizados en muchas áreas de nuestra sociedad plantea serios problemas éticos en cuanto a la equidad del proceso y la posible discriminación resultante. Para resolver este problema, proponemos un enfoque novedoso de entrenamiento adversarial llamado para aprender un sanitizador cuyo objetivo es prevenir la posibilidad de cualquier discriminación (es decir, directa e indirecta) basada en un atributo sensible al eliminar el atributo en sí mismo, así como las correlaciones existentes con los atributos restantes. Nuestro método está parcialmente inspirado en el poderoso marco de las redes adversariales generativas (en particular Cycle-GANs), que ofrece una forma flexible de aprender una distribución empíricamente o de traducir entre dos distribuciones diferentes. A diferencia del trabajo previo, una de las fortalezas de nuestro enfoque es que la desinfección se realiza en el mismo espacio que los datos originales al modificar solo los otros atributos lo menos posible, preservando así la interpretabilidad de los datos desinfectados. En consecuencia, una vez que el sanitizador está entrenado, se puede aplicar a nuevos datos localmente por un individuo en su perfil antes de liberarlo. Finalmente, experimentos en conjuntos de datos reales demuestran la efectividad del enfoque, así como el equilibrio alcanzable entre equidad y utilidad.
Descripción
El uso generalizado de procesos de decisión automatizados en muchas áreas de nuestra sociedad plantea serios problemas éticos en cuanto a la equidad del proceso y la posible discriminación resultante. Para resolver este problema, proponemos un enfoque novedoso de entrenamiento adversarial llamado para aprender un sanitizador cuyo objetivo es prevenir la posibilidad de cualquier discriminación (es decir, directa e indirecta) basada en un atributo sensible al eliminar el atributo en sí mismo, así como las correlaciones existentes con los atributos restantes. Nuestro método está parcialmente inspirado en el poderoso marco de las redes adversariales generativas (en particular Cycle-GANs), que ofrece una forma flexible de aprender una distribución empíricamente o de traducir entre dos distribuciones diferentes. A diferencia del trabajo previo, una de las fortalezas de nuestro enfoque es que la desinfección se realiza en el mismo espacio que los datos originales al modificar solo los otros atributos lo menos posible, preservando así la interpretabilidad de los datos desinfectados. En consecuencia, una vez que el sanitizador está entrenado, se puede aplicar a nuevos datos localmente por un individuo en su perfil antes de liberarlo. Finalmente, experimentos en conjuntos de datos reales demuestran la efectividad del enfoque, así como el equilibrio alcanzable entre equidad y utilidad.