El reconocimiento automático de modulación es una parte necesaria de los sistemas de comunicación cooperativa y no cooperativa y desempeña un papel importante en campos militares y civiles. Aunque el diagrama de constelación (CD) es una característica esencial para diferentes modulaciones digitales, es difícil de extraer en un entorno de comunicación complejo no cooperativo. La desviación de frecuencia, especialmente la desviación de frecuencia no lineal, es un problema vital en un entorno de comunicación complejo, que afecta en gran medida la extracción del CD tradicional y el rendimiento de los métodos de reconocimiento de modulación. En el presente artículo, proponemos un método de extracción de diagrama de constelación antidesviación de frecuencia (AFO-CD), que combina el diagrama de constelación con una red neuronal convolucional (CNN). El método propuesto indica el cambio del CD con el tiempo y nos permite suprimir eficientemente la influencia de la desviación de frecuencia. Además, se diseña un clasificador basado en unidades residuales para la extracción de características a múltiples escalas y la clasificación de modulación. Los resultados experimentales demuestran que el método propuesto puede mejorar efectivamente la precisión de reconocimiento y tiene un buen prospecto de aplicación en un entorno electromagnético complejo.