El crecimiento en el número de estudiantes en instituciones de educación superior (IES) en América Latina alcanzó los 33.5 millones en 2021 y más de 220 millones en todo el mundo, aumentando el volumen de datos en los sistemas de gestión académica. Algunas de las dificultades que enfrentan las universidades son proporcionar educación de alta calidad a los estudiantes y desarrollar sistemas para evaluar el desempeño de los docentes, lo que fomenta ofrecer una mejor calidad de enseñanza en las universidades; en este sentido, el aprendizaje automático surge con un gran potencial en la educación. Esta revisión de literatura tiene como objetivo analizar los factores, algoritmos de aprendizaje automático, desafíos y limitaciones más utilizados para evaluar la calidad de la enseñanza basada en el desempeño. La metodología utilizada es PRISMA, que considera analizar la literatura producida entre 2014 y 2024 sobre factores, algoritmos de predicción, desafíos y limitaciones para predecir la calidad de la enseñanza. Aquí, se seleccionaron 54 artículos de revistas indexadas en las bases de datos Web of Science y Scopus, y se identificaron y categorizaron 111 factores en cinco dimensiones: actitud del docente, método de enseñanza, contenido didáctico, efecto de la enseñanza y logros del docente. En cuanto a los avances en el aprendizaje automático para predecir la calidad de la enseñanza del docente, se identificaron 30 algoritmos de ML, siendo los más utilizados la red neuronal de retropropagación (BP) y las máquinas de soporte vectorial (SVM). Los desafíos y limitaciones identificados en 14 estudios relacionados con las IES son la gestión del gran volumen de datos y cómo utilizarlos para mejorar la calidad de la educación.