Clasificar expresiones faciales es una parte vital del desarrollo de sistemas capaces de interactuar adecuadamente con los usuarios. En este campo, el uso de modelos de aprendizaje profundo se ha convertido en el estándar. Sin embargo, el funcionamiento interno de estos modelos es incomprensible, lo cual es un problema importante al implementarlos en entornos de alto riesgo. Los esfuerzos recientes para generar explicaciones para los sistemas de clasificación de emociones se han centrado en este tipo de modelos. En este trabajo, se presenta una forma alternativa de explicar las decisiones de un modelo más convencional basado en características geométricas. Desarrollamos una red neuronal profunda (DNN) basada en características geométricas y una red neuronal convolucional (CNN). Garantizando un nivel suficiente de precisión predictiva, analizamos la explicabilidad utilizando tanto criterios cuantitativos objetivos como un estudio de usuarios. Los resultados indican que los puntajes de fidelidad y precisión de las explicaciones se aproximan bien a la DNN. A partir del estudio de usuarios realizado, queda claro que las explicaciones aumentan la comprensión de la DNN y que son preferidas sobre las explicaciones de la CNN, que son más comúnmente utilizadas. Todos los scripts utilizados en el estudio están disponibles públicamente.