logo móvil
Contáctanos

Fidex y FidexGlo: de explicaciones locales a explicaciones globales de modelos profundos

Autores: Bologna, Guido; Boutay, Jean-Marc; Boquete, Damian; Leblanc, Quentin; Köprülü, Deniz; Pfeiffer, Ludovic

Idioma: Inglés

Editor: MDPI

Año: 2025

Descargar PDF

Acceso abierto

Artículo científico
2025

Fidex y FidexGlo: de explicaciones locales a explicaciones globales de modelos profundos


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería de Software

Palabras clave

Neuronas
Capas
Algoritmos
Explicaciones
Límites
Imágenes

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 29

Citaciones: Sin citaciones


Descripción
Los modelos conexionistas profundos se caracterizan por tener muchos neuronas agrupadas en muchas capas sucesivas. Como resultado, sus clasificaciones de datos son difíciles de entender. Presentamos dos algoritmos novedosos que explican las respuestas de varios modelos de aprendizaje automático de caja negra. El primero es Fidex, que es local y por lo tanto se aplica a una sola muestra. El segundo, llamado FidexGlo, es global y utiliza Fidex. Ambos algoritmos generan explicaciones mediante reglas proposicionales. En nuestro marco de trabajo, los límites discriminativos son paralelos a las variables de entrada y su ubicación está determinada con precisión. Fidex es un algoritmo heurístico que, en cada paso, establece dónde está el mejor hiperplano que ha aumentado la fidelidad al máximo. La complejidad algorítmica de Fidex es proporcional al número máximo de pasos, el número de hiperplanos posibles, que es finito, y el número de muestras. Primero utilizamos FidexGlo con conjuntos y máquinas de vectores de soporte (SVM) para demostrar que su rendimiento en tres problemas de referencia es competitivo en términos de complejidad, fidelidad y precisión. La parte más desafiante fue aplicarlo a las redes neuronales convolucionales. Logramos esto con tres problemas de clasificación basados en imágenes. Obtuvimos resultados precisos y describimos las características de las reglas generadas, así como varios ejemplos de explicaciones ilustradas con sus imágenes correspondientes. Hasta donde sabemos, este es uno de los pocos trabajos que muestra una técnica de extracción de reglas globales aplicada tanto a conjuntos, SVM y redes neuronales profundas.

Otros recursos que podrían interesarte

Temas Virtualpro