A pesar del creciente interés en el campo, el impacto general de la realidad aumentada (AR) y la realidad virtual (VR) en el aprendizaje de las matemáticas sigue siendo incierto, con estudios previos que informan resultados mixtos. Además, hasta la fecha, no se ha realizado una revisión sistemática que evalúe el potencial de AR/VR en la educación matemática, incluidos sus beneficios y desventajas para los estudiantes. Para abordar esta brecha, la presente revisión sistemática de la literatura tiene como objetivo identificar tendencias de investigación, determinar características y metodologías, y explorar los posibles beneficios y desventajas de las tecnologías AR/VR en el aprendizaje de las matemáticas basándose en estudios empíricos existentes. De acuerdo con las directrices de PRISMA, analizamos 59 artículos de revistas revisados por pares publicados en inglés que se centraron en la implementación de AR/VR en la educación matemática. La revisión determinó que la geometría era el tema de matemáticas más estudiado, con varios estudios centrados en el uso de AR/VR para ayudar a estudiantes con discapacidades de aprendizaje. La presente revisión ofrece evidencia del potencial de AR/VR para consolidar el desarrollo socio-emocional, cognitivo/meta-cognitivo y pedagógico de los estudiantes en el aprendizaje de las matemáticas. Sin embargo, algunos problemas, incluidos fallos tecnológicos, costos, esfuerzo inicial, problemas de salud y falta de familiaridad con AR/VR, representan desafíos para la aplicación exitosa de AR/VR en el aula. Esta revisión sistemática contribuye al cuerpo de conocimiento existente en el campo y recomienda vías para futuras investigaciones.