Un breve estudio sobre la explicabilidad del aprendizaje automático: una aplicación al reconocimiento periocular
Autores: Brito, João; Proença, Hugo
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Un breve estudio sobre la explicabilidad del aprendizaje automático: una aplicación al reconocimiento periocular
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Interpretabilidad
Transparencia
Explicaciones visuales
Aprendizaje automático
Reconocimiento periocular
Explicaciones
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 27
Citaciones: Sin citaciones
La interpretabilidad ha avanzado significativamente en los últimos años, permitiendo que los modelos antes de caja negra alcancen nuevos niveles de transparencia. Estos modelos pueden ser particularmente útiles para ampliar la aplicabilidad de los sistemas basados en aprendizaje automático a dominios donde, además de las predicciones, también se requieren justificaciones apropiadas (por ejemplo, en forense y análisis de imágenes médicas). En este contexto, las técnicas que se centran en explicaciones visuales son de particular interés, debido a su capacidad para retratar directamente las razones que respaldan una predicción dada. Por lo tanto, en este documento nos enfocamos en presentar los principios fundamentales de la interpretabilidad y describir los principales métodos que proporcionan indicaciones visuales (incluido uno que diseñamos para el reconocimiento periorbital en particular). Basándonos en estas intuiciones, los experimentos realizados muestran explicaciones que intentan resaltar los componentes periorbitales más importantes hacia una decisión de no coincidencia. Luego, se presentan algunos escenarios particularmente desafiantes para sustentar naturalmente nuestras conclusiones y pensamientos sobre las direcciones futuras.
Descripción
La interpretabilidad ha avanzado significativamente en los últimos años, permitiendo que los modelos antes de caja negra alcancen nuevos niveles de transparencia. Estos modelos pueden ser particularmente útiles para ampliar la aplicabilidad de los sistemas basados en aprendizaje automático a dominios donde, además de las predicciones, también se requieren justificaciones apropiadas (por ejemplo, en forense y análisis de imágenes médicas). En este contexto, las técnicas que se centran en explicaciones visuales son de particular interés, debido a su capacidad para retratar directamente las razones que respaldan una predicción dada. Por lo tanto, en este documento nos enfocamos en presentar los principios fundamentales de la interpretabilidad y describir los principales métodos que proporcionan indicaciones visuales (incluido uno que diseñamos para el reconocimiento periorbital en particular). Basándonos en estas intuiciones, los experimentos realizados muestran explicaciones que intentan resaltar los componentes periorbitales más importantes hacia una decisión de no coincidencia. Luego, se presentan algunos escenarios particularmente desafiantes para sustentar naturalmente nuestras conclusiones y pensamientos sobre las direcciones futuras.