Enfoques de Evaluación de Sesgos para Abordar la Equidad Centrada en el Usuario en Sistemas de Recomendación Basados en GNN
Autores: Chizari, Nikzad; Tajfar, Keywan; Moreno-García, María N.
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Enfoques de Evaluación de Sesgos para Abordar la Equidad Centrada en el Usuario en Sistemas de Recomendación Basados en GNN
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Sociedad impulsada por la tecnología
Algoritmos de aprendizaje automático
Sesgos
Minoría
Sistemas de recomendación
Grupos demográficos
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
En la sociedad actual impulsada por la tecnología, muchas decisiones se toman en función de los resultados proporcionados por algoritmos de aprendizaje automático. Es bien sabido que los modelos generados por dichos algoritmos pueden presentar sesgos que conducen a decisiones injustas para algunos segmentos de la población, como grupos minoritarios o marginados. Por lo tanto, existe preocupación por la detección y mitigación de estos sesgos, que pueden aumentar los tratamientos discriminatorios de algunos grupos demográficos. Los sistemas de recomendación, utilizados hoy por millones de usuarios, no son ajenos a este inconveniente. La influencia de estos sistemas en tantas decisiones de los usuarios, que a su vez se toman como base para futuras recomendaciones, contribuye a agravar este problema. Además, hay evidencia de que algunos de los métodos de recomendación más recientes y exitosos, como los basados en redes neuronales gráficas (GNN), son más sensibles al sesgo. Los enfoques de evaluación de algunos de estos sesgos, como los que involucran grupos demográficos protegidos, pueden no ser adecuados para los sistemas de recomendación, ya que sus resultados son las preferencias de los usuarios y estas no necesariamente tienen que ser las mismas para los diferentes grupos. Otras métricas de evaluación están destinadas a evaluar sesgos que no tienen impacto en el usuario. En este trabajo, se analiza la idoneidad de diferentes métricas de sesgo centradas en el usuario en el contexto de sistemas de recomendación basados en GNN, así como la respuesta de los métodos de recomendación con respecto a los diferentes tipos de sesgos a los que se dirigen estas medidas.
Descripción
En la sociedad actual impulsada por la tecnología, muchas decisiones se toman en función de los resultados proporcionados por algoritmos de aprendizaje automático. Es bien sabido que los modelos generados por dichos algoritmos pueden presentar sesgos que conducen a decisiones injustas para algunos segmentos de la población, como grupos minoritarios o marginados. Por lo tanto, existe preocupación por la detección y mitigación de estos sesgos, que pueden aumentar los tratamientos discriminatorios de algunos grupos demográficos. Los sistemas de recomendación, utilizados hoy por millones de usuarios, no son ajenos a este inconveniente. La influencia de estos sistemas en tantas decisiones de los usuarios, que a su vez se toman como base para futuras recomendaciones, contribuye a agravar este problema. Además, hay evidencia de que algunos de los métodos de recomendación más recientes y exitosos, como los basados en redes neuronales gráficas (GNN), son más sensibles al sesgo. Los enfoques de evaluación de algunos de estos sesgos, como los que involucran grupos demográficos protegidos, pueden no ser adecuados para los sistemas de recomendación, ya que sus resultados son las preferencias de los usuarios y estas no necesariamente tienen que ser las mismas para los diferentes grupos. Otras métricas de evaluación están destinadas a evaluar sesgos que no tienen impacto en el usuario. En este trabajo, se analiza la idoneidad de diferentes métricas de sesgo centradas en el usuario en el contexto de sistemas de recomendación basados en GNN, así como la respuesta de los métodos de recomendación con respecto a los diferentes tipos de sesgos a los que se dirigen estas medidas.