Los fenómenos de vibración no lineales, como el giro y el azote del aceite, son indicadores comunes de inestabilidad de la película de aceite en rodamientos hidrodinámicos y son señales clave de posibles fallos en maquinaria rotativa. Las vibraciones excesivas causadas por la inestabilidad de la película de aceite pueden acelerar el desgaste de los rodamientos y llevar a la falla del sistema rotativo. Este documento presenta un modelo para coeficientes dinámicos no lineales, con el objetivo de proporcionar un enfoque cuantitativo para monitorear y predecir la inestabilidad de la película de aceite. Se investiga el impacto de los parámetros operativos y los valores de perturbación en los coeficientes de rigidez y amortiguamiento tanto lineales como no lineales. Los resultados de simulación y las señales de vibración del rotor experimental demuestran que el modelo de coeficientes dinámicos no lineales caracteriza efectivamente la inestabilidad de la película de aceite y predice con precisión la trayectoria del rotor, mientras que los modelos lineales tradicionales solo son aplicables en condiciones de baja velocidad y pequeñas perturbaciones. En comparación con los modelos analíticos tradicionales y las soluciones numéricas, los coeficientes dinámicos no lineales tienen mayor precisión y eficiencia y pueden identificar de manera confiable la frecuencia de inicio de la inestabilidad de la película de aceite. Este estudio aclara la relación entre los coeficientes dinámicos no lineales y la respuesta dinámica del rotor, sentando una base teórica para el monitoreo y la predicción de la inestabilidad de la película de aceite.