Este artículo está dedicado a un novedoso análisis formal, optimizando los modelos de aprendizaje para redes neuronales multicapa alimentadas hacia adelante con estructuras híbridas. La descripción matemática propuesta replica un problema específico de control óptimo de tipo conmutado (OCP). Hemos desarrollado una formulación equivalente basada en control óptimo del problema dado de entrenar una red neuronal híbrida multicapa alimentada hacia adelante, para entrenar la función de mapeo objetivo restringida por las muestras de entrenamiento. Este enfoque formal novedoso hace posible aplicar algunas técnicas de control óptimo bien establecidas para diseñar un tipo versátil de redes neuronales de conexión completa. A continuación, discutimos la irrelevancia de la necesidad de condiciones de optimalidad de tipo Pontryagin para la construcción del OCP de tipo conmutado obtenido. Este hecho nos motivó a considerar los enfoques de solución directa para los OCP de tipo conmutado, que pueden estar asociados con el aprendizaje de redes neuronales híbridas. Concretamente, consideramos el algoritmo de gradiente reducido generalizado en el marco del OCP conmutado auxiliar.