Presentamos una evaluación exhaustiva de una amplia variedad de patrones de diseño prometedores para métodos automatizados de aprendizaje profundo (AutoDL), organizados según las categorías de problemas de los desafíos AutoDL de 2019, que establecen la tarea de optimizar tanto la precisión del modelo como la eficiencia de búsqueda bajo restricciones estrictas de tiempo y computación. Proponemos evaluaciones empíricas estructuradas como la vía más prometedora para obtener principios de diseño para sistemas de aprendizaje profundo debido a la falta de un sólido respaldo teórico. A partir de estas evaluaciones, destilamos patrones relevantes que dan lugar a recomendaciones de diseño de redes neuronales. En particular, establecemos (a) que las capas totalmente conectadas muy anchas aprenden características significativas más rápido; ilustramos (b) cómo la falta de preentrenamiento en el procesamiento de audio puede ser compensada mediante la búsqueda de arquitecturas; mostramos (c) que en el procesamiento de texto, los métodos basados en aprendizaje profundo solo superan a los métodos tradicionales para longitudes de texto cortas con menos de mil caracteres bajo limitaciones estrictas de recursos; y por último presentamos (d) evidencia de que en entornos muy limitados en datos y computación, la optimización de hiperparámetros de métodos de aprendizaje automático más tradicionales supera a los sistemas de aprendizaje profundo.