La previsión de carga residencial es de gran importancia para mejorar la eficiencia energética de los servicios de hogares inteligentes. Las técnicas de aprendizaje profundo, es decir, las redes neuronales de memoria a corto y largo plazo (LSTM), pueden mejorar considerablemente el rendimiento de los modelos de predicción. Sin embargo, estas redes de caja negra suelen ser inexplicables, lo que crea un obstáculo para que el cliente comprenda profundamente los resultados de la predicción y responda rápidamente a circunstancias inciertas, ya que la ingeniería práctica requiere un alto nivel de fiabilidad en la predicción. En este documento, se propone un método de aprendizaje profundo interpretable para resolver el problema de previsión de carga residencial a varios pasos, que se denomina inteligencia artificial explicativa (XAI). Se desarrolla una arquitectura de red codificador-decodificador basada en LSTM multivariable (MV-LSTM) para la previsión de carga probabilística a varios pasos. Se introduce un mecanismo de atención mixta en cada paso de predicción para capturar mejor las diferentes dinámicas temporales de la secuencia multivariable de forma interpretable. Al evaluar la contribución de cada variable a la predicción, se pueden generar pronósticos de múltiples cuantiles en varios pasos futuros. Los experimentos en el conjunto de datos real muestran que el método propuesto puede lograr un buen rendimiento de predicción al tiempo que proporciona explicaciones valiosas para los resultados de la predicción. Los hallazgos ayudan a los usuarios finales a obtener información sobre el modelo de previsión, cerrando la brecha entre ellos y las técnicas avanzadas de aprendizaje profundo.