Las tareas de clasificación ordinal están presentes en un gran número de diferentes dominios. Sin embargo, las pérdidas comunes para las redes neuronales profundas, como la entropía cruzada, no ponderan adecuadamente el orden relativo entre las clases. Por esa razón, se han propuesto muchas pérdidas en la literatura, que modelan las probabilidades de salida siguiendo una distribución unimodal. Este manuscrito revisa muchas de estas pérdidas en tres conjuntos de datos diferentes y sugiere una mejora potencial que se enfoca en la restricción unimodal en el vecindario alrededor de la clase verdadera, permitiendo una distribución más flexible, adecuadamente llamada pérdida cuasi-unimodal. Para este propósito, se proponen dos restricciones: una primera restricción se refiere al orden relativo de las tres probabilidades principales, y una segunda restricción asegura que las probabilidades de salida restantes no sean mayores que las tres principales. Por lo tanto, el descenso de gradiente se enfoca en mejorar el límite de decisión alrededor de la clase verdadera en detrimento de las clases más distantes. Se encuentra que la pérdida propuesta es competitiva en varios casos.