Evaluando sesgos a través de contextos visuales
Autores: Arias-Duart, Anna; Gimenez-Abalos, Victor; Cortés, Ulises; Garcia-Gasulla, Dario
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Evaluando sesgos a través de contextos visuales
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Sesgo
Visión por computadora
Sesgos del modelo
Explicabilidad
Metodología
Posibles sesgos
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 36
Citaciones: Sin citaciones
La detección de sesgos en el campo de la visión por computadora es una tarea necesaria para lograr modelos justos. Estos sesgos suelen deberse a correlaciones no deseadas presentes en los datos y aprendidas por el modelo. Aunque la explicabilidad puede ser una forma de obtener información sobre el comportamiento del modelo, revisar las explicaciones no es sencillo. Este trabajo propone una metodología para analizar los sesgos del modelo sin utilizar la explicabilidad. Al hacerlo, reducimos el ruido potencial que surge de los métodos de explicabilidad y minimizamos el ruido humano durante el análisis de las explicaciones. La metodología propuesta combina imágenes de la distribución original con imágenes de posibles sesgos y analiza el efecto producido en la salida del modelo. Para este trabajo, primero presentamos y lanzamos tres nuevos conjuntos de datos generados por modelos de difusión. Luego, utilizamos la metodología propuesta para analizar el impacto del contexto en la predicción del modelo. Finalmente, verificamos la fiabilidad de la metodología propuesta y la consistencia de sus resultados. Esperamos que esta herramienta ayude a los profesionales a detectar y mitigar posibles sesgos, permitiéndoles obtener modelos más fiables.
Descripción
La detección de sesgos en el campo de la visión por computadora es una tarea necesaria para lograr modelos justos. Estos sesgos suelen deberse a correlaciones no deseadas presentes en los datos y aprendidas por el modelo. Aunque la explicabilidad puede ser una forma de obtener información sobre el comportamiento del modelo, revisar las explicaciones no es sencillo. Este trabajo propone una metodología para analizar los sesgos del modelo sin utilizar la explicabilidad. Al hacerlo, reducimos el ruido potencial que surge de los métodos de explicabilidad y minimizamos el ruido humano durante el análisis de las explicaciones. La metodología propuesta combina imágenes de la distribución original con imágenes de posibles sesgos y analiza el efecto producido en la salida del modelo. Para este trabajo, primero presentamos y lanzamos tres nuevos conjuntos de datos generados por modelos de difusión. Luego, utilizamos la metodología propuesta para analizar el impacto del contexto en la predicción del modelo. Finalmente, verificamos la fiabilidad de la metodología propuesta y la consistencia de sus resultados. Esperamos que esta herramienta ayude a los profesionales a detectar y mitigar posibles sesgos, permitiéndoles obtener modelos más fiables.