En el campo de la vigilancia de radio y la radio cognitiva, la recepción de una señal generalmente se realiza de manera no cooperativa, lo que significa que existe poca información previa para detectar las señales de manera confiable a través de un método tradicional. Al mismo tiempo, el modo de adquisición de banda ancha prevalente recibirá múltiples señales de subbanda de sistemas homogéneos o heterogéneos, lo que lleva a un rendimiento de detección deteriorado bajo un espectro no plano y un canal de desvanecimiento. A la luz de las preocupaciones anteriores, se propone un nuevo algoritmo de detección basado en el modelo oculto de Markov gaussiano (HMM) para separar de manera precisa la señal de subbanda individual del espectro de banda ancha en una relación señal-ruido (SNR) baja. Las señales de comunicación simuladas con fluctuación espectral y desvanecimiento de múltiples trayectorias indican la superioridad y aplicabilidad del algoritmo propuesto en comparación con otros algoritmos de detección. Nuestro algoritmo puede lograr una probabilidad de detección del 94% a -10 dB SNR bajo un canal de ruido gaussiano blanco aditivo (AWGN) y tiene una curva característica de operación del receptor (ROC) casi ideal. Cuando se enfrenta a un canal de desvanecimiento de Rayleigh, aún supera a otros algoritmos. Los datos reales adquiridos también verifican su aplicación práctica con una complejidad computacional moderada y una estimación de frecuencia portadora más estable.