Encontrar el tamaño del diccionario es un problema abierto en el aprendizaje de diccionarios (DL). Proponemos un algoritmo que adapta el tamaño durante el proceso de aprendizaje utilizando Criterios de Teoría de la Información (ITC) especializados en el problema de DL. El algoritmo se basa en Approximate K-SVD (AK-SVD) y periódicamente elimina los átomos menos utilizados o agrega nuevos átomos aleatorios, basándose en evaluaciones de ITC para un pequeño número de subdiccionarios candidatos. Experimentos numéricos en datos sintéticos muestran que nuestro algoritmo no solo encuentra el verdadero tamaño con muy buena precisión, sino que también es capaz de mejorar el error de representación en comparación con AK-SVD conociendo el verdadero tamaño.