La minería de procesos predictiva (PPM) se ha integrado en casos de uso de minería de procesos como una tarea que agrega valor. PPM proporciona predicciones útiles sobre el futuro de los procesos comerciales en ejecución con respecto a diferentes perspectivas, como las próximas actividades a ejecutar, el resultado final de la ejecución y los indicadores de rendimiento. En el contexto de PPM, las técnicas de Aprendizaje Automático (ML) son ampliamente empleadas. Con el fin de ganar la confianza de las partes interesadas con respecto a la fiabilidad de las predicciones de PPM, los métodos de Inteligencia Artificial Explicable (XAI) se han utilizado cada vez más para compensar la falta de transparencia de la mayoría de los modelos predictivos. Existen múltiples métodos de XAI que proporcionan explicaciones para casi todos los tipos de modelos de ML. Sin embargo, para los mismos datos, así como bajo la misma configuración de preprocesamiento o los mismos modelos de ML, las explicaciones generadas a menudo varían significativamente. Estas variaciones correspondientes podrían poner en peligro la coherencia y robustez de las explicaciones y, posteriormente, la utilidad de la configuración del modelo y del pipeline correspondiente. Este documento presenta un marco que permite analizar el impacto que las configuraciones relacionadas con PPM y las elecciones relacionadas con los modelos de ML pueden tener en las características y la expresividad de las explicaciones generadas. Nuestro marco proporciona un medio para examinar las explicaciones generadas ya sea para todo el proceso de razonamiento de un modelo de ML, o para las predicciones realizadas sobre el futuro de una cierta instancia de proceso comercial. Utilizando experimentos bien definidos con diferentes configuraciones, descubrimos cómo las elecciones realizadas a través de un flujo de trabajo de PPM afectan y pueden reflejarse a través de las explicaciones. Este marco además proporciona los medios para comparar cómo diferentes características de los métodos de explicabilidad pueden dar forma a las explicaciones resultantes y reflejar el proceso de razonamiento del modelo subyacente.