cómo el transporte óptimo puede abordar los sesgos de género en clasificadores de redes neuronales de múltiples clases para recomendaciones de trabajo
Autores: Jourdan, Fanny; Kaninku, Titon Tshiongo; Asher, Nicholas; Loubes, Jean-Michel; Risser, Laurent
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
cómo el transporte óptimo puede abordar los sesgos de género en clasificadores de redes neuronales de múltiples clases para recomendaciones de trabajo
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Software
Palabras clave
Sistemas de recomendación
Redes neuronales profundas
Actuar de IA
Comisión Europea
Propiedades estadísticas
Sesgos algorítmicos
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 32
Citaciones: Sin citaciones
Los sistemas de recomendación automáticos basados en redes neuronales profundas se han vuelto extremadamente populares durante la última década. Algunos de estos sistemas, sin embargo, pueden ser utilizados en aplicaciones que son clasificadas como Alto Riesgo por la Comisión Europea en el acto de IA, por ejemplo, las recomendaciones de candidatos a empleo en línea. Cuando se utilizan en la Unión Europea, se requerirá que los sistemas de IA comerciales en tales aplicaciones tengan propiedades estadísticas adecuadas con respecto a la discriminación potencial que podrían generar. Esto motivó nuestra contribución. Presentamos una nueva estrategia de transporte óptimo para mitigar sesgos algorítmicos no deseados en la clasificación de redes neuronales de múltiples clases. Nuestra estrategia es agnóstica al modelo y puede ser utilizada en cualquier modelo de red neuronal de clasificación de múltiples clases. Para anticipar la certificación de sistemas de recomendación que utilizan datos textuales, la usamos en el conjunto de datos Bios, para el cual la tarea de aprendizaje consiste en predecir la ocupación de individuos femeninos y masculinos, basándose en su biografía de LinkedIn. Los resultados mostraron que nuestro enfoque puede reducir sesgos algorítmicos no deseados en este contexto a niveles más bajos que una estrategia estándar.
Descripción
Los sistemas de recomendación automáticos basados en redes neuronales profundas se han vuelto extremadamente populares durante la última década. Algunos de estos sistemas, sin embargo, pueden ser utilizados en aplicaciones que son clasificadas como Alto Riesgo por la Comisión Europea en el acto de IA, por ejemplo, las recomendaciones de candidatos a empleo en línea. Cuando se utilizan en la Unión Europea, se requerirá que los sistemas de IA comerciales en tales aplicaciones tengan propiedades estadísticas adecuadas con respecto a la discriminación potencial que podrían generar. Esto motivó nuestra contribución. Presentamos una nueva estrategia de transporte óptimo para mitigar sesgos algorítmicos no deseados en la clasificación de redes neuronales de múltiples clases. Nuestra estrategia es agnóstica al modelo y puede ser utilizada en cualquier modelo de red neuronal de clasificación de múltiples clases. Para anticipar la certificación de sistemas de recomendación que utilizan datos textuales, la usamos en el conjunto de datos Bios, para el cual la tarea de aprendizaje consiste en predecir la ocupación de individuos femeninos y masculinos, basándose en su biografía de LinkedIn. Los resultados mostraron que nuestro enfoque puede reducir sesgos algorítmicos no deseados en este contexto a niveles más bajos que una estrategia estándar.