Esta revisión sistemática explora métodos de optimización modernos para el aprendizaje automático, distinguiendo entre técnicas basadas en gradientes que utilizan información de derivadas y enfoques basados en poblaciones que emplean búsqueda estocástica. Las innovaciones clave se centran en una regulación mejorada, mecanismos de control adaptativos y estrategias inspiradas en la biología para abordar desafíos como la escalabilidad a modelos grandes, la navegación en paisajes no convexos complejos y la adaptación a restricciones dinámicas. Estos métodos sustentan tareas fundamentales de ML, incluyendo el entrenamiento de modelos, la ajuste de hiperparámetros y la selección de características. Aunque se evidencia un progreso significativo, persisten limitaciones en escalabilidad y garantías teóricas, dirigiendo el trabajo futuro hacia marcos más robustos y adaptativos para avanzar en aplicaciones de IA en áreas como sistemas autónomos y descubrimiento científico.