En experimentos de captura-recaptura, la presencia de sobre dispersión y heterogeneidad hace necesario el uso del modelo de regresión binomial negativa para inferir tamaños de población. Sin embargo, dentro de este modelo, los métodos existentes basados en la verosimilitud y la regresión de razón para estimar el parámetro de dispersión a menudo enfrentan problemas de límites y no identificabilidad. Estos problemas pueden resultar en estimaciones de puntos absurdamente grandes y límites superiores de intervalos de confianza ilimitados para el tamaño de la población. Presentamos una técnica de verosimilitud empírica penalizada para resolver estos dos problemas al imponer una priori semi-normal en el tamaño de la población. Basándonos en el enfoque propuesto, se derivan un estimador de máxima verosimilitud empírica penalizada con normalidad asintótica y una estadística de razón de verosimilitud empírica penalizada con distribución chi-cuadrado asintótica. Para mejorar el rendimiento numérico, presentamos un algoritmo efectivo de esperanza-maximización (EM). En la etapa M, la optimización de los parámetros del modelo podría lograrse ajustando un modelo estándar de regresión binomial negativa a través de la función básica. Este enfoque asegura la convergencia y confiabilidad del algoritmo numérico. Utilizando simulaciones, analizamos varios conjuntos de datos sintéticos para ilustrar tres ventajas de nuestros métodos en casos de muestra finita: mitigación completa del problema de límites, estimaciones de máxima verosimilitud empírica penalizada más eficientes y estimaciones de intervalo de razón de verosimilitud empírica penalizada más precisas en comparación con las estimaciones obtenidas sin penalización. Estas ventajas se demuestran además en un estudio de caso para estimar la abundancia de osos negros en la Instalación Militar Fort Drum del Ejército de los EE. UU. en el norte de Nueva York.