logo móvil
Contáctanos

Enfoques de Evaluación de Sesgos para Abordar la Equidad Centrada en el Usuario en Sistemas de Recomendación Basados en GNN

Autores: Chizari, Nikzad; Tajfar, Keywan; Moreno-García, María N.

Idioma: Inglés

Editor: MDPI

Año: 2023

Descargar PDF

Acceso abierto

Artículo científico
2023

Enfoques de Evaluación de Sesgos para Abordar la Equidad Centrada en el Usuario en Sistemas de Recomendación Basados en GNN


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Sociedad impulsada por la tecnología
Algoritmos de aprendizaje automático
Sesgos
Minoría
Sistemas de recomendación
Grupos demográficos

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
En la sociedad actual impulsada por la tecnología, muchas decisiones se toman en función de los resultados proporcionados por algoritmos de aprendizaje automático. Es bien sabido que los modelos generados por dichos algoritmos pueden presentar sesgos que conducen a decisiones injustas para algunos segmentos de la población, como grupos minoritarios o marginados. Por lo tanto, existe preocupación por la detección y mitigación de estos sesgos, que pueden aumentar los tratamientos discriminatorios de algunos grupos demográficos. Los sistemas de recomendación, utilizados hoy por millones de usuarios, no son ajenos a este inconveniente. La influencia de estos sistemas en tantas decisiones de los usuarios, que a su vez se toman como base para futuras recomendaciones, contribuye a agravar este problema. Además, hay evidencia de que algunos de los métodos de recomendación más recientes y exitosos, como los basados en redes neuronales gráficas (GNN), son más sensibles al sesgo. Los enfoques de evaluación de algunos de estos sesgos, como los que involucran grupos demográficos protegidos, pueden no ser adecuados para los sistemas de recomendación, ya que sus resultados son las preferencias de los usuarios y estas no necesariamente tienen que ser las mismas para los diferentes grupos. Otras métricas de evaluación están destinadas a evaluar sesgos que no tienen impacto en el usuario. En este trabajo, se analiza la idoneidad de diferentes métricas de sesgo centradas en el usuario en el contexto de sistemas de recomendación basados en GNN, así como la respuesta de los métodos de recomendación con respecto a los diferentes tipos de sesgos a los que se dirigen estas medidas.

Otros recursos que podrían interesarte

Temas Virtualpro