logo móvil
Contáctanos

Evaluando sesgos a través de contextos visuales

Autores: Arias-Duart, Anna; Gimenez-Abalos, Victor; Cortés, Ulises; Garcia-Gasulla, Dario

Idioma: Inglés

Editor: MDPI

Año: 2023

Descargar PDF

Acceso abierto

Artículo científico
2023

Evaluando sesgos a través de contextos visuales


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería Eléctrica y Electrónica

Palabras clave

Sesgo
Visión por computadora
Sesgos del modelo
Explicabilidad
Metodología
Posibles sesgos

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 36

Citaciones: Sin citaciones


Descripción
La detección de sesgos en el campo de la visión por computadora es una tarea necesaria para lograr modelos justos. Estos sesgos suelen deberse a correlaciones no deseadas presentes en los datos y aprendidas por el modelo. Aunque la explicabilidad puede ser una forma de obtener información sobre el comportamiento del modelo, revisar las explicaciones no es sencillo. Este trabajo propone una metodología para analizar los sesgos del modelo sin utilizar la explicabilidad. Al hacerlo, reducimos el ruido potencial que surge de los métodos de explicabilidad y minimizamos el ruido humano durante el análisis de las explicaciones. La metodología propuesta combina imágenes de la distribución original con imágenes de posibles sesgos y analiza el efecto producido en la salida del modelo. Para este trabajo, primero presentamos y lanzamos tres nuevos conjuntos de datos generados por modelos de difusión. Luego, utilizamos la metodología propuesta para analizar el impacto del contexto en la predicción del modelo. Finalmente, verificamos la fiabilidad de la metodología propuesta y la consistencia de sus resultados. Esperamos que esta herramienta ayude a los profesionales a detectar y mitigar posibles sesgos, permitiéndoles obtener modelos más fiables.

Otros recursos que podrían interesarte

Temas Virtualpro