La educación en línea ha surgido como un medio educativo importante durante la pandemia de COVID-19. A pesar de las ventajas de la educación en línea, carece de entornos cara a cara, lo que hace muy difícil analizar el nivel de interacción, comprensión y confusión de los estudiantes. Este estudio hace uso de datos de electroencefalograma (EEG) para la detección de la confusión de los estudiantes en la plataforma de curso en línea masivo y abierto (MOOC). Los enfoques existentes para la detección de la confusión se centran predominantemente en la optimización del modelo y la ingeniería de características no está muy bien estudiada. Este estudio propone un enfoque de ingeniería novedoso que utiliza características basadas en la probabilidad (PBF) para aumentar la eficacia de los modelos de aprendizaje automático. El enfoque PBF utiliza la salida probabilística del bosque aleatorio (RF) y la máquina de aumento de gradiente (GBM) como un vector de características para entrenar modelos de aprendizaje automático. Se realizan experimentos extensos utilizando las características originales y el enfoque PBF a través de varios modelos de aprendizaje automático con datos de EEG. Los resultados experimentales sugieren que al utilizar el enfoque PBF en datos de EEG, se puede obtener una precisión del 100% para detectar a los estudiantes confundidos. La validación cruzada K-fold y la comparación de rendimiento con los enfoques existentes corroboran aún más los resultados.