Patrones basados en el contexto en métricas de sesgo y equidad en el aprendizaje automático: un enfoque basado en atributos sensibles
Autores: Pagano, Tiago P.; Loureiro, Rafael B.; Lisboa, Fernanda V. N.; Cruz, Gustavo O. R.; Peixoto, Rodrigo M.; Guimarães, Guilherme A. de Sousa; Oliveira, Ewerton L. S.; Winkler, Ingrid; Nascimento, Erick G. Sperandio
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Patrones basados en el contexto en métricas de sesgo y equidad en el aprendizaje automático: un enfoque basado en atributos sensibles
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Sistemas
Palabras clave
Enfoques
Sesgo
Equidad
Modelos de aprendizaje automático
Atributo sensible
Métricas
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 35
Citaciones: Sin citaciones
La mayoría de los enfoques actuales para la identificación o mitigación de sesgos y equidad en modelos de aprendizaje automático son aplicaciones para un problema particular que no tiene en cuenta la conexión entre el contexto de la aplicación y sus atributos sensibles asociados, lo que contribuye al reconocimiento de patrones consistentes en la aplicación de métricas de sesgo y equidad. Esto se puede utilizar para impulsar el desarrollo de modelos futuros, con el atributo sensible actuando como un elemento de conexión a estas métricas. Por lo tanto, este estudio tiene como objetivo analizar patrones en varias métricas para identificar sesgos y equidad, aplicando el atributo sensible de género como estudio de caso, para tres áreas diferentes de aplicaciones en modelos de aprendizaje automático: visión por computadora, procesamiento de lenguaje natural y sistemas de recomendación.
Descripción
La mayoría de los enfoques actuales para la identificación o mitigación de sesgos y equidad en modelos de aprendizaje automático son aplicaciones para un problema particular que no tiene en cuenta la conexión entre el contexto de la aplicación y sus atributos sensibles asociados, lo que contribuye al reconocimiento de patrones consistentes en la aplicación de métricas de sesgo y equidad. Esto se puede utilizar para impulsar el desarrollo de modelos futuros, con el atributo sensible actuando como un elemento de conexión a estas métricas. Por lo tanto, este estudio tiene como objetivo analizar patrones en varias métricas para identificar sesgos y equidad, aplicando el atributo sensible de género como estudio de caso, para tres áreas diferentes de aplicaciones en modelos de aprendizaje automático: visión por computadora, procesamiento de lenguaje natural y sistemas de recomendación.