En este documento se propone un nuevo algoritmo inteligente de enjambre llamado algoritmo de anidación de hormigas (ANA). El algoritmo está inspirado en las hormigas Leptothorax y simula el comportamiento de las hormigas buscando posiciones para depositar granos mientras construyen un nuevo nido. Aunque el algoritmo está inspirado en el comportamiento de enjambre de las hormigas, no tiene ninguna similitud algorítmica con el algoritmo de optimización de colonias de hormigas (ACO). Es importante mencionar que ANA se considera un algoritmo continuo que actualiza la posición de los agentes de búsqueda mediante la adición de la tasa de cambio (por ejemplo, paso o velocidad). ANA calcula la tasa de cambio de manera diferente, ya que utiliza soluciones previas, actuales, valores de aptitud durante el proceso de optimización para generar pesos utilizando el teorema de Pitágoras. Estos pesos guían a los agentes de búsqueda durante las fases de exploración y explotación. El algoritmo ANA se evalúa en 26 funciones de prueba conocidas, y los resultados se verifican mediante un estudio comparativo con algoritmo genético (GA), optimización por enjambre de partículas (PSO), algoritmo de libélula (DA), cinco versiones modificadas de PSO, algoritmo de optimización de ballenas (WOA), algoritmo de enjambre de salpas (SSA) y optimizador dependiente de aptitud (FDO). ANA supera a estos destacados algoritmos metaheurísticos en varios casos de prueba y proporciona resultados bastante competitivos. Finalmente, el algoritmo se emplea para optimizar dos problemas de ingeniería del mundo real conocidos: diseño de matrices de antenas y síntesis modulada en frecuencia. Los resultados en los estudios de casos de ingeniería demuestran la capacidad del algoritmo propuesto para optimizar problemas del mundo real.