Las redes neuronales han demostrado su utilidad para resolver problemas de regresión complejos en circunstancias donde los métodos alternativos no proporcionan resultados satisfactorios. Encontrar un buen modelo de red neuronal es una tarea que consume tiempo e implica la búsqueda a través de un espacio de hiperparámetros y pesos multidimensional y complejo para encontrar los valores que proporcionan una convergencia óptima. Proponemos un nuevo optimizador de redes neuronales que aprovecha las ventajas tanto de un algoritmo competitivo evolutivo mejorado como de la retropropagación basada en gradientes. El método consiste en una variante híbrida modificada del Algoritmo Competitivo Imperialista (ICA, por sus siglas en inglés). Analizamos múltiples estrategias para la inicialización, asimilación, revolución y competencia, con el fin de encontrar la combinación de pasos de ICA que proporciona una convergencia óptima y mejorar el algoritmo incorporando un paso de retropropagación en el bucle de ICA, que, junto con una estrategia de ajuste de hiperparámetros autoadaptativa, mejora significativamente el algoritmo original. El método híbrido resultante se utiliza para optimizar una red neuronal y resolver un problema complejo en el campo de la ingeniería química: la síntesis y el comportamiento de hinchamiento de las estructuras entrecruzadas semi e interpenetradas de varios componentes de hidrogeles, con el objetivo de predecir el rendimiento en un polímero entrecruzado y el grado de hinchamiento basado en varios parámetros de entrada relacionados con la reacción. Mostramos que nuestro enfoque tiene un mejor rendimiento que otros algoritmos de optimización inspirados biológicamente y genera modelos de regresión capaces de hacer predicciones que están mejor correlacionadas con las salidas deseadas.