Fidex y FidexGlo: de explicaciones locales a explicaciones globales de modelos profundos
Autores: Bologna, Guido; Boutay, Jean-Marc; Boquete, Damian; Leblanc, Quentin; Köprülü, Deniz; Pfeiffer, Ludovic
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Fidex y FidexGlo: de explicaciones locales a explicaciones globales de modelos profundos
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Software
Palabras clave
Neuronas
Capas
Algoritmos
Explicaciones
Límites
Imágenes
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 29
Citaciones: Sin citaciones
Los modelos conexionistas profundos se caracterizan por tener muchos neuronas agrupadas en muchas capas sucesivas. Como resultado, sus clasificaciones de datos son difíciles de entender. Presentamos dos algoritmos novedosos que explican las respuestas de varios modelos de aprendizaje automático de caja negra. El primero es Fidex, que es local y por lo tanto se aplica a una sola muestra. El segundo, llamado FidexGlo, es global y utiliza Fidex. Ambos algoritmos generan explicaciones mediante reglas proposicionales. En nuestro marco de trabajo, los límites discriminativos son paralelos a las variables de entrada y su ubicación está determinada con precisión. Fidex es un algoritmo heurístico que, en cada paso, establece dónde está el mejor hiperplano que ha aumentado la fidelidad al máximo. La complejidad algorítmica de Fidex es proporcional al número máximo de pasos, el número de hiperplanos posibles, que es finito, y el número de muestras. Primero utilizamos FidexGlo con conjuntos y máquinas de vectores de soporte (SVM) para demostrar que su rendimiento en tres problemas de referencia es competitivo en términos de complejidad, fidelidad y precisión. La parte más desafiante fue aplicarlo a las redes neuronales convolucionales. Logramos esto con tres problemas de clasificación basados en imágenes. Obtuvimos resultados precisos y describimos las características de las reglas generadas, así como varios ejemplos de explicaciones ilustradas con sus imágenes correspondientes. Hasta donde sabemos, este es uno de los pocos trabajos que muestra una técnica de extracción de reglas globales aplicada tanto a conjuntos, SVM y redes neuronales profundas.
Descripción
Los modelos conexionistas profundos se caracterizan por tener muchos neuronas agrupadas en muchas capas sucesivas. Como resultado, sus clasificaciones de datos son difíciles de entender. Presentamos dos algoritmos novedosos que explican las respuestas de varios modelos de aprendizaje automático de caja negra. El primero es Fidex, que es local y por lo tanto se aplica a una sola muestra. El segundo, llamado FidexGlo, es global y utiliza Fidex. Ambos algoritmos generan explicaciones mediante reglas proposicionales. En nuestro marco de trabajo, los límites discriminativos son paralelos a las variables de entrada y su ubicación está determinada con precisión. Fidex es un algoritmo heurístico que, en cada paso, establece dónde está el mejor hiperplano que ha aumentado la fidelidad al máximo. La complejidad algorítmica de Fidex es proporcional al número máximo de pasos, el número de hiperplanos posibles, que es finito, y el número de muestras. Primero utilizamos FidexGlo con conjuntos y máquinas de vectores de soporte (SVM) para demostrar que su rendimiento en tres problemas de referencia es competitivo en términos de complejidad, fidelidad y precisión. La parte más desafiante fue aplicarlo a las redes neuronales convolucionales. Logramos esto con tres problemas de clasificación basados en imágenes. Obtuvimos resultados precisos y describimos las características de las reglas generadas, así como varios ejemplos de explicaciones ilustradas con sus imágenes correspondientes. Hasta donde sabemos, este es uno de los pocos trabajos que muestra una técnica de extracción de reglas globales aplicada tanto a conjuntos, SVM y redes neuronales profundas.