El reciente auge de las Redes Neuronales artificiales (NN) ha demostrado que las NN pueden proporcionar soluciones viables a una variedad de problemas. Sin embargo, su complejidad y la falta de una interpretación eficiente de las arquitecturas de NN (comúnmente consideradas técnicas de caja negra) tienen efectos adversos en la optimización de cada arquitectura de NN. No se puede simplemente usar una topología genérica y obtener el mejor rendimiento en cada campo de aplicación, ya que la topología de la red se ajusta comúnmente al problema/conjunto de datos en cuestión. En este artículo, introducimos un nuevo método para evaluar computacionalmente la complejidad del conjunto de datos. La NN se trata como un canal de información, y por lo tanto, se utiliza la teoría de la información para estimar el número óptimo de neuronas para cada capa, reduciendo la carga de memoria y computacional, mientras se logra la misma precisión, si no mayor. Los experimentos utilizando conjuntos de datos comunes confirman los hallazgos teóricos, y el algoritmo derivado parece mejorar el rendimiento de la arquitectura original.