El comportamiento de la memoria a largo plazo es uno de los fenómenos más importantes que ha aparecido en el análisis de series temporales. Diferente de la mayoría de las definiciones de propiedades de segundo orden, se desarrolla un enfoque de entropía excedente para series temporales estacionarias para clasificar la memoria a largo y corto plazo. Una secuencia estacionaria con entropía de bloque finita es memoria a largo plazo si su entropía excedente es infinita. Los resultados de la simulación se demuestran gráficamente después de que algunos resultados teóricos son presentados de manera simple por diversas secuencias estocásticas. Tal enfoque tiene ventajas sobre las formas tradicionales, ya que la entropía excedente de una secuencia estacionaria con entropía de bloque finita es invariante bajo transformación uno a uno instantánea, y solo requiere condiciones de momento muy débiles en lugar de condiciones de momento de segundo orden, por lo que se puede aplicar para distinguir el comportamiento de memoria a largo plazo de secuencias estacionarias con segundo momento no acotado (por ejemplo, distribución de cola pesada). Finalmente, se presentan varias aplicaciones en datos reales.