Los avances en la autonomía confiable de los sistemas de gestión del tráfico aéreo (ATM) se están persiguiendo actualmente para hacer frente al crecimiento previsto en las densidades de tráfico aéreo en todas las clases de espacio aéreo. Los sistemas ATM altamente automatizados que dependen de algoritmos de inteligencia artificial (IA) para la detección de anomalías, identificación de patrones, inferencia precisa y resolución óptima de conflictos son técnicamente viables y demostrablemente capaces de asumir una amplia variedad de tareas que actualmente realizan los humanos. Sin embargo, la opacidad e inexplicabilidad de la mayoría de los algoritmos inteligentes restringen la usabilidad de dicha tecnología. En consecuencia, se prevé que los sistemas de apoyo a la decisión (DSS) basados en IA integren IA explicable (XAI) para aumentar la interpretabilidad y transparencia del razonamiento del sistema y, por lo tanto, generar confianza en los operadores humanos en estos sistemas. Esta investigación presenta una solución viable para implementar XAI en los DSS de ATM, proporcionando explicaciones que pueden ser evaluadas y analizadas por el operador de control de tráfico aéreo (ATCO) humano. La madurez de los enfoques de XAI y su aplicación en la predicción de riesgos operacionales de ATM se investiga en este documento, que puede apoyar tanto los servicios de asesoramiento de ATM existentes en espacio aéreo no controlado (Clases E y F) como también impulsar el aumento de volúmenes de evitación en conceptos emergentes de autonomía impulsada por el rendimiento. En particular, se explotan las ocurrencias de aviación y las bases de datos meteorológicas para entrenar una herramienta de predicción de riesgos basada en aprendizaje automático (ML) capaz de análisis de situación en tiempo real y monitoreo de riesgos operacionales. El enfoque propuesto se basa en la biblioteca XGBoost, que es un algoritmo de árbol de decisión de refuerzo por gradiente para el cual se producen explicaciones post-hoc mediante SHapley Additive exPlanations (SHAP) y Local Interpretable Model-Agnostic Explanations (LIME). Se presentan y discuten los resultados, y se hacen consideraciones sobre las estrategias más prometedoras para evolucionar las interacciones humano-máquina (HMI) para fortalecer la confianza mutua entre el ATCO y los sistemas. El enfoque presentado no se limita solo a aplicaciones convencionales, sino que también es adecuado para la gestión del tráfico de UAS (UTM) y otras aplicaciones emergentes.