Un estudio empírico de modelos interpretables frente a explicaciones post-hoc
Autores: Mahya, Parisa; Fürnkranz, Johannes
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Un estudio empírico de modelos interpretables frente a explicaciones post-hoc
Categoría
Ingeniería y Tecnología
Subcategoría
Inteligencia Artificial
Palabras clave
Modelos de caja negra
Redes neuronales profundas
Bosques aleatorios
Métodos agnósticos al modelo
Modelos interpretables
Explicaciones post hoc
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 28
Citaciones: Sin citaciones
Recientemente, se ha dedicado un esfuerzo a explicar modelos opacos y de caja negra, como las redes neuronales profundas o los bosques aleatorios. Los métodos llamados modelo-agnosticos típicamente aproximan la predicción del modelo de caja negra opaco con un modelo interpretable, sin considerar ninguna especificidad del modelo de caja negra en sí. Es una pregunta válida si el aprendizaje directo de modelos interpretables de caja blanca no debería ser preferido sobre aproximaciones post-hoc de modelos opacos y de caja negra. En este artículo, informamos los resultados de un estudio empírico, que compara explicaciones post-hoc y modelos interpretables en varios conjuntos de datos para modelos interpretables basados en reglas y características. Los resultados parecen subrayar que a menudo los modelos interpretables aprendidos directamente aproximan los modelos de caja negra al menos tan bien como sus sustitutos post-hoc, aunque los primeros no tienen acceso directo al modelo de caja negra.
Descripción
Recientemente, se ha dedicado un esfuerzo a explicar modelos opacos y de caja negra, como las redes neuronales profundas o los bosques aleatorios. Los métodos llamados modelo-agnosticos típicamente aproximan la predicción del modelo de caja negra opaco con un modelo interpretable, sin considerar ninguna especificidad del modelo de caja negra en sí. Es una pregunta válida si el aprendizaje directo de modelos interpretables de caja blanca no debería ser preferido sobre aproximaciones post-hoc de modelos opacos y de caja negra. En este artículo, informamos los resultados de un estudio empírico, que compara explicaciones post-hoc y modelos interpretables en varios conjuntos de datos para modelos interpretables basados en reglas y características. Los resultados parecen subrayar que a menudo los modelos interpretables aprendidos directamente aproximan los modelos de caja negra al menos tan bien como sus sustitutos post-hoc, aunque los primeros no tienen acceso directo al modelo de caja negra.