El objetivo del mantenimiento predictivo, dentro del campo de la gestión de pronósticos y salud (PHM), es identificar y anticipar problemas potenciales en el equipo antes de que se conviertan en serios. El principal desafío a abordar es evaluar la cantidad de tiempo que un equipo funcionará de manera efectiva antes de fallar, lo que se conoce como vida útil restante (RUL). Los modelos de aprendizaje profundo (DL), como las Redes Neuronales Convolucionales Profundas (DCNN) y las redes de Memoria a Largo y Corto Plazo (LSTM), se han adoptado ampliamente para abordar esta tarea, con gran éxito. Sin embargo, es bien sabido que estos tipos de modelos de caja negra son sistemas de decisión opacos, y puede ser difícil explicar sus resultados a las partes interesadas (expertos en el equipo industrial). Debido al gran número de parámetros que determinan el comportamiento de estos modelos complejos, entender el razonamiento detrás de las predicciones es un desafío. Este artículo presenta una revisión crítica y comparativa de varios métodos de IA explicable (XAI) aplicados a modelos de regresión de series temporales para PM. El objetivo es explorar métodos de XAI dentro de la regresión de series temporales, que han sido menos estudiados que aquellos para la clasificación de series temporales. Este estudio aborda tres problemas distintos de RUL utilizando tres conjuntos de datos diferentes, cada uno con su propio contexto único: caja de cambios, baterías de carga rápida y motor turbofan. Se revisaron y compararon cinco métodos de XAI basados en un conjunto de nueve métricas que cuantifican propiedades deseables para cualquier método de XAI. Una de las métricas introducidas en este estudio es una métrica novedosa. Los resultados muestran que Grad-CAM es el método más robusto, y que la mejor capa no es la inferior, como se suele ver en el contexto del procesamiento de imágenes.