Explicación y evaluación de los transformadores de visión: un estudio experimental en profundidad
Autores: Stassin, Sédrick; Corduant, Valentin; Mahmoudi, Sidi Ahmed; Siebert, Xavier
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Explicación y evaluación de los transformadores de visión: un estudio experimental en profundidad
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Era
Inteligencia artificial
XAI
Métodos
Métricas
ViT
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 41
Citaciones: Sin citaciones
En la era de la inteligencia artificial (IA), el despliegue de sistemas inteligentes para la toma de decisiones autónoma ha aumentado en diversos campos. Sin embargo, la adopción generalizada de la tecnología de IA se ve obstaculizada por los riesgos asociados con ceder el control a sistemas autónomos, especialmente en dominios críticos. La inteligencia artificial explicada (XAI) ha surgido como un subdominio crítico que fomenta la comprensión y la confianza humanas. Aborda la opacidad de modelos complejos como los transformadores de visión (ViTs), que han ganado prominencia últimamente. Con el creciente panorama de métodos XAI, la selección del método más efectivo sigue siendo una pregunta abierta, debido a la falta de una etiqueta de verdad fundamental para la explicabilidad. Para evitar el juicio humano subjetivo, se han desarrollado numerosas métricas, cada una con el objetivo de cumplir ciertas propiedades requeridas para una explicación válida. Este estudio realiza una evaluación detallada de varios métodos XAI aplicados a la arquitectura ViT, explorando así criterios métricos como fidelidad, coherencia, robustez y complejidad. Especialmente estudiamos la convergencia métrica, correlación, poder discriminativo y tiempo de inferencia de ambos métodos XAI y métricas. Contrariamente a las expectativas, las métricas de cada criterio revelan una convergencia y correlación mínimas. Este estudio no solo desafía la práctica convencional de clasificación basada en métricas de métodos XAI, sino que también subraya la dependencia de las explicaciones del entorno experimental, presentando así consideraciones cruciales para el desarrollo y adopción futura de métodos XAI en aplicaciones del mundo real.
Descripción
En la era de la inteligencia artificial (IA), el despliegue de sistemas inteligentes para la toma de decisiones autónoma ha aumentado en diversos campos. Sin embargo, la adopción generalizada de la tecnología de IA se ve obstaculizada por los riesgos asociados con ceder el control a sistemas autónomos, especialmente en dominios críticos. La inteligencia artificial explicada (XAI) ha surgido como un subdominio crítico que fomenta la comprensión y la confianza humanas. Aborda la opacidad de modelos complejos como los transformadores de visión (ViTs), que han ganado prominencia últimamente. Con el creciente panorama de métodos XAI, la selección del método más efectivo sigue siendo una pregunta abierta, debido a la falta de una etiqueta de verdad fundamental para la explicabilidad. Para evitar el juicio humano subjetivo, se han desarrollado numerosas métricas, cada una con el objetivo de cumplir ciertas propiedades requeridas para una explicación válida. Este estudio realiza una evaluación detallada de varios métodos XAI aplicados a la arquitectura ViT, explorando así criterios métricos como fidelidad, coherencia, robustez y complejidad. Especialmente estudiamos la convergencia métrica, correlación, poder discriminativo y tiempo de inferencia de ambos métodos XAI y métricas. Contrariamente a las expectativas, las métricas de cada criterio revelan una convergencia y correlación mínimas. Este estudio no solo desafía la práctica convencional de clasificación basada en métricas de métodos XAI, sino que también subraya la dependencia de las explicaciones del entorno experimental, presentando así consideraciones cruciales para el desarrollo y adopción futura de métodos XAI en aplicaciones del mundo real.