La gobernanza de la inteligencia artificial (IA) en la educación requiere una base teórica que se extienda más allá del cumplimiento del sistema hacia una responsabilidad centrada en los resultados. La Ley de IA de la UE clasifica la evaluación de resultados de aprendizaje basada en IA (AIB-LOA) como una aplicación de alto riesgo, subrayando la importancia de la toma de decisiones algorítmica en la evaluación de los estudiantes. Los marcos regulatorios actuales, como el GDPR y ALTAI, se centran principalmente en enfoques ex-ante y centrados en el sistema. Las aplicaciones de ALTAI en la educación se concentran en el cumplimiento y el análisis de vulnerabilidades, mientras que a menudo no logran integrar los principios de gobernanza con las prácticas de evaluación educativa establecidas. Si bien la investigación sobre IA explicable demuestra sofisticación metodológica (por ejemplo, LIME, SHAP), a menudo no logra ofrecer una transparencia pedagógicamente significativa. Este estudio desarrolla el Marco de Evaluación Consecuencial XAI-ED (XAI-ED CAF) como un modelo de gobernanza específico del sector y centrado en los resultados para AIB-LOA. El marco reinterpreta los siete requisitos de ALTAI (agencia humana, robustez, privacidad, transparencia, equidad, bienestar social y responsabilidad) a través de tres teorías de evaluación: la validez consecuencial de Messick, el modelo de cuatro niveles de Kirkpatrick y el marco CIPP de Stufflebeam. A través de esta integración teórica, el estudio identifica indicadores y tipos de evidencia potenciales para la autoevaluación institucional. El análisis indica que la IA confiable en la educación va más allá de la transparencia técnica o el cumplimiento legal. La gobernanza debe abordar la autonomía del estudiante, la validez pedagógica, la interpretabilidad, la equidad, la cultura institucional y la responsabilidad. El XAI-ED CAF reconfigura ALTAI como un modelo de responsabilidad fundamentado pedagógicamente, estableciendo criterios evaluativos estructurados que se alinean tanto con las normas regulatorias como educativas. El marco contribuye a la gobernanza de la IA en la educación al conectar las obligaciones regulatorias con la teoría de evaluación pedagógica. Apoya a los responsables de políticas, instituciones e investigadores en el desarrollo de prácticas de autoevaluación centradas en los resultados. La investigación futura debería probar y refinar el marco a través de estudios Delphi y aplicaciones institucionales en diversos contextos.