Durante la última década, las representaciones basadas en aprendizaje profundo han demostrado un rendimiento notable en la academia y la industria. La capacidad de aprendizaje de las redes neuronales convolucionales (CNN) proviene de una combinación de varias capas de extracción de características que utilizan completamente una gran cantidad de datos. Sin embargo, a menudo requieren recursos computacionales y de memoria sustanciales al reemplazar las características tradicionales diseñadas a mano en los sistemas existentes. En esta revisión, para mejorar la eficiencia de la investigación en aprendizaje profundo, nos centramos en tres aspectos: modelos cuantificados/binarizados, arquitecturas optimizadas y sistemas con recursos limitados. Se revisan los avances recientes en modelos de aprendizaje profundo ligeros y algoritmos de búsqueda de arquitectura de red (NAS), comenzando con capas simplificadas y convolución eficiente e incluyendo nuevos diseños arquitectónicos y optimización. Además, se han investigado varias aplicaciones prácticas de CNN eficientes utilizando diversos tipos de arquitecturas de hardware y plataformas.