Evaluación de IA Explicable: Un Enfoque de Arriba Hacia Abajo para Seleccionar Explicaciones Óptimas para Modelos de Caja Negra
Autores: Mirzaei, SeyedehRoksana; Mao, Hua; Al-Nima, Raid Rafi Omar; Woo, Wai Lok
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Evaluación de IA Explicable: Un Enfoque de Arriba Hacia Abajo para Seleccionar Explicaciones Óptimas para Modelos de Caja Negra
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Inteligencia artificial explicable
Métodos de evaluación
Marco
Independiente del modelo
Dominio tabular
Explicaciones globales
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
La evaluación de la Inteligencia Artificial Explicable (XAI) ha crecido significativamente debido a su amplia adopción y a las consecuencias catastróficas de la mala interpretación de datos sensibles, especialmente en el campo médico. Sin embargo, la naturaleza multidisciplinaria de la investigación en XAI ha resultado en que diversos académicos enfrenten desafíos significativos al diseñar métodos de evaluación adecuados. Este artículo propone un nuevo marco de un enfoque jerárquico de tres capas sobre cómo llegar a un explicador óptimo, acentuando la necesidad persistente de consenso en la evaluación de XAI. Este artículo también investiga una evaluación comparativa crítica de explicaciones en explicadores tanto agnósticos al modelo como específicos, incluyendo LIME, SHAP, Anchors y TabNet, con el objetivo de mejorar la adaptabilidad de XAI en un dominio tabular. Los resultados demuestran que TabNet logró la mayor recuperación de clasificación, seguido por TabPFN y XGBoost. Además, este artículo desarrolla un enfoque óptimo al introducir una nueva medida de pérdida de rendimiento relativa con énfasis en la fidelidad y la fe de las explicaciones globales, cuantificando el grado en que las capacidades de un modelo disminuyen al eliminar las características más importantes. Esto aborda una evidente brecha en la falta de consenso entre los investigadores sobre cómo la importancia de las características globales impacta la pérdida de clasificación, socavando así la confianza y la corrección de tales aplicaciones. Finalmente, se proporciona un caso de uso práctico sobre datos tabulares médicos para ilustrar concretamente los hallazgos.
Descripción
La evaluación de la Inteligencia Artificial Explicable (XAI) ha crecido significativamente debido a su amplia adopción y a las consecuencias catastróficas de la mala interpretación de datos sensibles, especialmente en el campo médico. Sin embargo, la naturaleza multidisciplinaria de la investigación en XAI ha resultado en que diversos académicos enfrenten desafíos significativos al diseñar métodos de evaluación adecuados. Este artículo propone un nuevo marco de un enfoque jerárquico de tres capas sobre cómo llegar a un explicador óptimo, acentuando la necesidad persistente de consenso en la evaluación de XAI. Este artículo también investiga una evaluación comparativa crítica de explicaciones en explicadores tanto agnósticos al modelo como específicos, incluyendo LIME, SHAP, Anchors y TabNet, con el objetivo de mejorar la adaptabilidad de XAI en un dominio tabular. Los resultados demuestran que TabNet logró la mayor recuperación de clasificación, seguido por TabPFN y XGBoost. Además, este artículo desarrolla un enfoque óptimo al introducir una nueva medida de pérdida de rendimiento relativa con énfasis en la fidelidad y la fe de las explicaciones globales, cuantificando el grado en que las capacidades de un modelo disminuyen al eliminar las características más importantes. Esto aborda una evidente brecha en la falta de consenso entre los investigadores sobre cómo la importancia de las características globales impacta la pérdida de clasificación, socavando así la confianza y la corrección de tales aplicaciones. Finalmente, se proporciona un caso de uso práctico sobre datos tabulares médicos para ilustrar concretamente los hallazgos.