La clasificación de géneros musicales es significativa para los usuarios y las plataformas digitales. Para mejorar la precisión de la clasificación, este estudio propone un modelo híbrido basado en VMD-IWOA-XGBOOST para la clasificación de géneros musicales. Primero, las señales de audio se transforman en datos numéricos o simbólicos, y las características cruciales se seleccionan utilizando el método de coeficiente de información maximal (MIC). En segundo lugar, se propone un algoritmo de optimización de ballenas mejorado (IWOA) para la optimización de parámetros. En tercer lugar, los patrones internos de estas características seleccionadas se extraen mediante la descomposición modal variacional optimizada por IWOA (VMD). Por último, todas las características se introducen en el clasificador de aumento extremo optimizado por IWOA (XGBOOST). Para verificar la efectividad del modelo propuesto, se utilizan dos conjuntos de datos musicales abiertos, es decir, GTZAN y Bangla. Los resultados experimentales ilustran que el modelo híbrido propuesto logra un mejor rendimiento que los otros modelos en términos de cinco criterios de evaluación.