logo móvil
Contáctanos

Evaluación de IA Explicable: Un Enfoque de Arriba Hacia Abajo para Seleccionar Explicaciones Óptimas para Modelos de Caja Negra

Autores: Mirzaei, SeyedehRoksana; Mao, Hua; Al-Nima, Raid Rafi Omar; Woo, Wai Lok

Idioma: Inglés

Editor: MDPI

Año: 2023

Descargar PDF

Acceso abierto

Artículo científico
2023

Evaluación de IA Explicable: Un Enfoque de Arriba Hacia Abajo para Seleccionar Explicaciones Óptimas para Modelos de Caja Negra


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Inteligencia artificial explicable
Métodos de evaluación
Marco
Independiente del modelo
Dominio tabular
Explicaciones globales

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
La evaluación de la Inteligencia Artificial Explicable (XAI) ha crecido significativamente debido a su amplia adopción y a las consecuencias catastróficas de la mala interpretación de datos sensibles, especialmente en el campo médico. Sin embargo, la naturaleza multidisciplinaria de la investigación en XAI ha resultado en que diversos académicos enfrenten desafíos significativos al diseñar métodos de evaluación adecuados. Este artículo propone un nuevo marco de un enfoque jerárquico de tres capas sobre cómo llegar a un explicador óptimo, acentuando la necesidad persistente de consenso en la evaluación de XAI. Este artículo también investiga una evaluación comparativa crítica de explicaciones en explicadores tanto agnósticos al modelo como específicos, incluyendo LIME, SHAP, Anchors y TabNet, con el objetivo de mejorar la adaptabilidad de XAI en un dominio tabular. Los resultados demuestran que TabNet logró la mayor recuperación de clasificación, seguido por TabPFN y XGBoost. Además, este artículo desarrolla un enfoque óptimo al introducir una nueva medida de pérdida de rendimiento relativa con énfasis en la fidelidad y la fe de las explicaciones globales, cuantificando el grado en que las capacidades de un modelo disminuyen al eliminar las características más importantes. Esto aborda una evidente brecha en la falta de consenso entre los investigadores sobre cómo la importancia de las características globales impacta la pérdida de clasificación, socavando así la confianza y la corrección de tales aplicaciones. Finalmente, se proporciona un caso de uso práctico sobre datos tabulares médicos para ilustrar concretamente los hallazgos.

Otros recursos que podrían interesarte

Temas Virtualpro