La imperfección del conjunto de antenas degrada el rendimiento de comunicación en el sistema de comunicación de onda milimétrica (mmWave). En este documento, se investiga el problema de la estimación de canal para el sistema de comunicación mmWave, y se considera el efecto de acoplamiento mutuo (MC) desconocido entre antenas. Al explotar la dispersión del canal en el dominio espacial con bandas de frecuencia mmWave, el problema de la estimación de canal se convierte en el de reconstrucción dispersa. El efecto de MC se describe mediante una matriz Toeplitz simétrica, y se formula el modelo de sistema mmWave basado en dispersión con coeficientes de MC. Luego, se propone un método de dos etapas mediante la estimación de las señales dispersas y los coeficientes de MC de forma iterativa. Los resultados de simulación muestran que el método propuesto puede mejorar significativamente el rendimiento de estimación de canal en el escenario con efecto de MC desconocido y el rendimiento de estimación tanto para la dirección de llegada (DOA) como para la dirección de salida (DoD) puede mejorarse en aproximadamente 8 dB al reducir el efecto de MC en unos 4 dB.