Este artículo presenta el concepto de aprendizaje federado (FL) de modelos de Inteligencia Artificial Explicable (XAI) como una tecnología habilitadora en sistemas avanzados de 5G hacia 6G y discute su aplicabilidad al caso de uso de redes de vehículos automatizados. Aunque el FL de redes neuronales ha sido ampliamente investigado aprovechando variantes del descenso de gradiente estocástico como método de optimización, aún no se ha estudiado adecuadamente en el contexto de modelos inherentemente explicables. Por un lado, XAI permite mejorar la experiencia del usuario de los servicios de comunicación ofrecidos al ayudar a los usuarios finales a confiar (por diseño) en que la funcionalidad de IA en la red emite recomendaciones de acción apropiadas. Por otro lado, FL garantiza la seguridad y privacidad tanto de los datos vehiculares como de los datos de los usuarios en todo el sistema. Estos deseos a menudo se ignoran en las soluciones basadas en IA existentes para la planificación, diseño y operación de redes inalámbricas. En esta perspectiva, el artículo proporciona una descripción detallada de casos de uso relevantes de 6G, con un enfoque en entornos de vehículo a todo (V2X): describimos un marco para evaluar el enfoque propuesto que involucra entrenamiento en línea basado en datos reales de redes en vivo. Se espera que el FL de modelos XAI aporte beneficios como metodología para lograr una disponibilidad continua de inteligencia descentralizada, ligera y eficiente en comunicación. Los impactos del enfoque propuesto (incluidas las perspectivas de estandarización) consisten en una mejor confiabilidad de las operaciones, por ejemplo, a través de la explicabilidad de las predicciones de calidad de experiencia (QoE), junto con la gestión de datos de sensores, terminales, usuarios y aplicaciones que preserva la seguridad y la privacidad.