La ciencia de redes complejas es un campo interdisciplinario de estudio basado en la teoría de grafos, la mecánica estadística y la ciencia de datos. Con las poderosas herramientas ahora disponibles en la teoría de redes complejas para el estudio de la topología de redes, es evidente que los modelos de topología de redes complejas se pueden aplicar para mejorar los modelos de redes neuronales artificiales. En este documento, proporcionamos una visión general de los trabajos más importantes publicados en los últimos 10 años sobre el tema de los métodos de optimización basados en la teoría de redes complejas. Esta revisión de los sistemas de redes neuronales optimizadas más actualizados revela que la fusión de redes complejas y neuronales mejora tanto la precisión como la robustez. Al exponer nuestros hallazgos de revisión aquí, buscamos promover una mejor comprensión de los conceptos básicos y ofrecer una visión más profunda de los diversos esfuerzos de investigación que han llevado al uso de la teoría de redes complejas en las redes neuronales optimizadas de hoy.