Los métodos de reconocimiento de modulación automática (AMR) utilizados en sistemas avanzados de comunicaciones inalámbricas pueden identificar señales desconocidas sin necesidad de información de referencia. Sin embargo, la aceptación de estos métodos depende de la precisión, el número de parámetros y la complejidad computacional. Este estudio propone un clasificador híbrido de transformador convolucional (HCTC) para la clasificación de señales desconocidas. El método propuesto utiliza un marco de tres etapas para extraer características de las señales en fase/cuadratura (I/Q). En la primera etapa, se extraen características espaciales utilizando una capa convolucional. En la segunda etapa, se extraen características temporales utilizando un codificador de transformador. En la etapa final, las características se asignan utilizando una red de aprendizaje profundo. El método propuesto HCTC se investiga utilizando la base de datos de benchmark RadioML y se compara con métodos de vanguardia. Los resultados experimentales demuestran que el método propuesto logra un mejor rendimiento en la clasificación de señales de modulación. Además, se evalúa el rendimiento del método propuesto al aplicarlo a diferentes tamaños de lote y configuraciones de modelo. Finalmente, se abordan problemas abiertos en la investigación de reconocimiento de modulación y se discuten perspectivas de investigación futuras.