El aprendizaje en conjunto, el aprendizaje en línea y el aprendizaje profundo son muy efectivos y versátiles en un amplio espectro de dominios de problemas, como la extracción de características, la clasificación multiclase y la recuperación. En este artículo, combinando las ideas del aprendizaje en conjunto, el aprendizaje en línea y el aprendizaje profundo, proponemos un nuevo método de aprendizaje profundo llamado códigos de salida correctores de errores profundos (DeepECOCs). DeepECOCs están compuestos por múltiples capas del módulo ECOC, que combina varios máquinas de vectores de soporte incrementales (SVM incrementales) como clasificadores base. En esta nueva arquitectura profunda, cada módulo ECOC se puede considerar como dos capas sucesivas de la red, mientras que las SVM incrementales se pueden ver como enlaces ponderados entre dos capas sucesivas. En el procedimiento de preentrenamiento, la información supervisada, es decir, las etiquetas de clase, se puede utilizar durante la inicialización de la red. Las SVM incrementales hacen que este procedimiento sea muy eficiente, especialmente para aplicaciones a gran escala. Hemos realizado experimentos extensos para comparar DeepECOCs con algoritmos tradicionales de ECOC, aprendizaje de características y aprendizaje profundo. Los resultados demuestran que DeepECOCs funcionan, no solo mejor que los algoritmos de ECOC y aprendizaje de características existentes, sino también en relación con los de aprendizaje profundo en la mayoría de los casos.