La retinopatía diabética (RD) es una enfermedad común del fondo de ojo que conduce a ceguera irreversible, que afecta a la población en edad laboral. El diagnóstico automático de imágenes médicas proporciona un método no invasivo para ayudar a los oftalmólogos en la detección oportuna de casos sospechosos de RD, lo que evita su deterioro posterior. Sin embargo, los métodos basados en el aprendizaje profundo de vanguardia generalmente tienen una gran cantidad de parámetros de modelo, lo que hace que la implementación clínica a gran escala sea una tarea que consume mucho tiempo. Además, la gravedad de la RD está asociada con lesiones, y es difícil para el modelo enfocarse en estas regiones. En este documento, proponemos una técnica novedosa de aprendizaje profundo para clasificar la RD con solo supervisión a nivel de imagen. Específicamente, primero personalizamos el modelo con la ayuda de la auto-destilación del conocimiento para lograr un equilibrio entre el rendimiento del modelo y la complejidad temporal. En segundo lugar, se utiliza CAM-Attention para permitir que la red se enfoque en zonas discriminativas, microaneurismas, exudados blandos/duros, etc. Dado que adjuntar directamente un clasificador después de la Rama lateral interrumpirá la naturaleza jerárquica de las redes neuronales convolucionales, se emplea un Módulo de Imitación que permite a la Rama lateral imitar activamente la estructura de la rama principal. Se realizan experimentos extensos en dos conjuntos de datos de referencia, con un AUC de 0.965 y una precisión del 92.9% para el conjunto de datos Messidor y una precisión del 67.96% lograda para el desafiante conjunto de datos IDRID, lo que demuestra el rendimiento superior de nuestro método propuesto.