logo móvil
Contáctanos

cómo el transporte óptimo puede abordar los sesgos de género en clasificadores de redes neuronales de múltiples clases para recomendaciones de trabajo

Autores: Jourdan, Fanny; Kaninku, Titon Tshiongo; Asher, Nicholas; Loubes, Jean-Michel; Risser, Laurent

Idioma: Inglés

Editor: MDPI

Año: 2023

Descargar PDF

Acceso abierto

Artículo científico
2023

cómo el transporte óptimo puede abordar los sesgos de género en clasificadores de redes neuronales de múltiples clases para recomendaciones de trabajo


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería de Software

Palabras clave

Sistemas de recomendación
Redes neuronales profundas
Actuar de IA
Comisión Europea
Propiedades estadísticas
Sesgos algorítmicos

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 32

Citaciones: Sin citaciones


Descripción
Los sistemas de recomendación automáticos basados en redes neuronales profundas se han vuelto extremadamente populares durante la última década. Algunos de estos sistemas, sin embargo, pueden ser utilizados en aplicaciones que son clasificadas como Alto Riesgo por la Comisión Europea en el acto de IA, por ejemplo, las recomendaciones de candidatos a empleo en línea. Cuando se utilizan en la Unión Europea, se requerirá que los sistemas de IA comerciales en tales aplicaciones tengan propiedades estadísticas adecuadas con respecto a la discriminación potencial que podrían generar. Esto motivó nuestra contribución. Presentamos una nueva estrategia de transporte óptimo para mitigar sesgos algorítmicos no deseados en la clasificación de redes neuronales de múltiples clases. Nuestra estrategia es agnóstica al modelo y puede ser utilizada en cualquier modelo de red neuronal de clasificación de múltiples clases. Para anticipar la certificación de sistemas de recomendación que utilizan datos textuales, la usamos en el conjunto de datos Bios, para el cual la tarea de aprendizaje consiste en predecir la ocupación de individuos femeninos y masculinos, basándose en su biografía de LinkedIn. Los resultados mostraron que nuestro enfoque puede reducir sesgos algorítmicos no deseados en este contexto a niveles más bajos que una estrategia estándar.

Otros recursos que podrían interesarte

Temas Virtualpro