Las técnicas de destilación de conocimiento (KD) tienen como objetivo transferir conocimiento de redes neuronales complejas de profesor a redes de estudiante más simples. En este estudio, proponemos un nuevo método de destilación de conocimiento llamado Destilación de Conocimiento de Control de Gradiente Conjunto de Multi-pérdida (MJKD), que funciona combinando de manera efectiva métodos de destilación de conocimiento basados en características y logit con control de gradiente. El método de destilación de conocimiento propuesto considera discretamente los gradientes de la pérdida de tarea (pérdida de entropía cruzada), la pérdida de destilación de características y la pérdida de destilación de logit. Los resultados experimentales sugieren que los logit pueden contener más información y, por lo tanto, deben asignarse un mayor peso durante el proceso de actualización de gradientes en este trabajo. Los hallazgos empíricos en los conjuntos de datos CIFAR-100 y Tiny-ImageNet indican que MJKD generalmente supera a los métodos tradicionales de destilación de conocimiento, mejorando significativamente la capacidad de generalización y la precisión de clasificación de las redes de estudiantes. Por ejemplo, MJKD logra una precisión del 63.53% en Tiny-ImageNet para el par ResNet18 MobileNetV2. Además, presentamos visualizaciones y análisis para explorar sus posibles mecanismos de funcionamiento.