Evaluación de métricas de investigación para métodos globales de inteligencia artificial explicables utilizando datos sintéticos
Autores: Oblizanov, Alexandr; Shevskaya, Natalya; Kazak, Anatoliy; Rudenko, Marina; Dorofeeva, Anna
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Evaluación de métricas de investigación para métodos globales de inteligencia artificial explicables utilizando datos sintéticos
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Sistemas
Palabras clave
Inteligencia artificial
Métodos XAI
Sistema de evaluación
Métricas
SHAP
LIME
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 21
Citaciones: Sin citaciones
En los últimos años, las tecnologías de inteligencia artificial han estado desarrollándose cada vez más rápidamente, y mucha investigación se dirige a resolver el problema de la inteligencia artificial explicativa. Se están desarrollando varios métodos de XAI para permitir al usuario entender la lógica de cómo funcionan los modelos de aprendizaje automático, y para comparar los métodos, es necesario evaluarlos. El documento analiza varios enfoques para la evaluación de los métodos de XAI, define los requisitos para el sistema de evaluación y sugiere métricas para determinar las diversas características técnicas de los métodos. Se realizó un estudio, utilizando estas métricas, que determinó la degradación en la calidad de la explicación de los métodos SHAP y LIME con el aumento de la correlación en los datos de entrada. También se dan recomendaciones para futuras investigaciones en el campo de la implementación práctica de métricas, ampliando el alcance de su uso.
Descripción
En los últimos años, las tecnologías de inteligencia artificial han estado desarrollándose cada vez más rápidamente, y mucha investigación se dirige a resolver el problema de la inteligencia artificial explicativa. Se están desarrollando varios métodos de XAI para permitir al usuario entender la lógica de cómo funcionan los modelos de aprendizaje automático, y para comparar los métodos, es necesario evaluarlos. El documento analiza varios enfoques para la evaluación de los métodos de XAI, define los requisitos para el sistema de evaluación y sugiere métricas para determinar las diversas características técnicas de los métodos. Se realizó un estudio, utilizando estas métricas, que determinó la degradación en la calidad de la explicación de los métodos SHAP y LIME con el aumento de la correlación en los datos de entrada. También se dan recomendaciones para futuras investigaciones en el campo de la implementación práctica de métricas, ampliando el alcance de su uso.