El criptoanálisis de criptosistemas se considera una tarea NP-Difícil en la criptografía moderna. Debido a los cifrados por bloques que forman parte de un cifrado moderno y tienen no linealidad y baja autocorrelación en su estructura, las técnicas tradicionales y los ataques de fuerza bruta sufren al intentar romper la clave presentada en técnicas tradicionales, y los ataques de fuerza bruta contra el cifrado moderno S-AES (estándar de cifrado avanzado simplificado) son complejos. Por lo tanto, es esencial desarrollar una optimización robusta y confiable con alta capacidad de búsqueda. Motivado por esto, este documento intenta presentar un novedoso algoritmo de hibridación binaria basado en los procedimientos matemáticos del optimizador de lobo gris (GWO) y la optimización por enjambre de partículas (PSO), llamado BPSOGWO, para tratar el criptoanálisis de (S-AES). El BPSOGWO propuesto emplea un ataque de texto plano conocido que solo requiere un par de pares de texto plano-texto cifrado en lugar de otras estrategias que requieren más pares (es decir, reduce el número de mensajes necesarios en un ataque, y la información secreta como pares de texto plano-texto cifrado no se puede obtener fácilmente). Los resultados exhaustivos y estadísticos indican que el BPSOGWO es más preciso y proporciona resultados superiores en comparación con otros pares, donde mejoró la precisión del criptoanálisis de S-AES en un 82.5%, 84.79% y 79.6% en comparación con PSO, GA y ACO, respectivamente. Además, el BPSOGWO propuesto recupera la clave óptima con una reducción significativa en el espacio de búsqueda en comparación con un ataque de fuerza bruta. Los experimentos muestran que combinar la función de aptitud sugerida con HPSOGWO resultó en una reducción de 109 veces en el espacio de búsqueda. En el criptoanálisis, esto es un factor significativo. Los resultados demuestran que BPSOGWO es una alternativa prometedora y efectiva para atacar la clave empleada en el cifrado S-AES.