A pesar del avance en la Inteligencia Artificial Explicable, las explicaciones proporcionadas por los predictores agnósticos al modelo aún requieren mejoras (es decir, falta de descripciones precisas de los comportamientos de los predictores). Presentamos una herramienta para Extracción de Reglas y Explicaciones Profundas (DEXiRE) para aproximar reglas para modelos de Aprendizaje Profundo con cualquier número de capas ocultas. DEXiRE propone la binarización de redes neuronales para inducir funciones booleanas en las capas ocultas, generando tantos conjuntos de reglas intermedias. Un conjunto de reglas es inducido entre la primera capa oculta y la capa de entrada. Finalmente, el conjunto de reglas completo se obtiene usando sustitución inversa en conjuntos de reglas intermedias y reglas de la primera capa. Pruebas estadísticas y algoritmos de satisfactibilidad reducen el tamaño y la complejidad del conjunto de reglas final (filtrando reglas redundantes, inconsistentes y no frecuentes). DEXiRE ha sido probado en clasificaciones binarias y multiclase con seis conjuntos de datos con estructuras y modelos diferentes. El rendimiento es consistente (en términos de precisión, fidelidad y longitud de reglas) con respecto a los extractores de reglas de vanguardia (es decir, ECLAIRE). Además, en comparación con ECLAIRE, DEXiRE ha generado reglas más cortas (es decir, hasta menos términos) y ha acortado el tiempo de ejecución (mejorando hasta en el mejor de los casos). DEXiRE puede aplicarse a la clasificación binaria y multiclase de predictores de aprendizaje profundo con cualquier número de capas ocultas. Además, DEXiRE puede identificar el patrón de activación por clase y usarlo para reducir el espacio de búsqueda para los extractores de reglas (recortando neuronas irrelevantes/redundantes): reglas más cortas y tiempos de ejecución en comparación con ECLAIRE.