Estimación de Error Cuadrático Medio Mínimo y Ganancia de Información Mutua
Autores: Gibson, Jerry
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Estimación de Error Cuadrático Medio Mínimo y Ganancia de Información Mutua
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Cantidades teóricas de la información
Entropía
Tasa de entropía
Ganancia de información
Entropía relativa
Error cuadrático medio
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Las cantidades teóricas de la información, como la entropía, la tasa de entropía, la ganancia de información y la entropía relativa, se utilizan a menudo para comprender el rendimiento de los agentes inteligentes en aplicaciones de aprendizaje. El error cuadrático medio no ha desempeñado un papel en estos análisis, principalmente porque no se considera un indicador de rendimiento viable en estos escenarios. Nos basamos en una nueva cantidad, la razón logarítmica de las potencias de entropía, para establecer que la estimación, predicción y suavizado del error cuadrático medio mínimo (MMSE) están directamente conectados a la ganancia o pérdida de información mutua en un sistema de aprendizaje de agentes modelado por una cadena de Markov para muchas distribuciones de probabilidad de interés. Se desarrollan expresiones para la ganancia o pérdida de información mutua para la estimación, predicción y suavizado de MMSE, y se presenta un ejemplo para el suavizado de retraso fijo.
Descripción
Las cantidades teóricas de la información, como la entropía, la tasa de entropía, la ganancia de información y la entropía relativa, se utilizan a menudo para comprender el rendimiento de los agentes inteligentes en aplicaciones de aprendizaje. El error cuadrático medio no ha desempeñado un papel en estos análisis, principalmente porque no se considera un indicador de rendimiento viable en estos escenarios. Nos basamos en una nueva cantidad, la razón logarítmica de las potencias de entropía, para establecer que la estimación, predicción y suavizado del error cuadrático medio mínimo (MMSE) están directamente conectados a la ganancia o pérdida de información mutua en un sistema de aprendizaje de agentes modelado por una cadena de Markov para muchas distribuciones de probabilidad de interés. Se desarrollan expresiones para la ganancia o pérdida de información mutua para la estimación, predicción y suavizado de MMSE, y se presenta un ejemplo para el suavizado de retraso fijo.