Alternativa dirichlet para estimar la entropía a través de una función de suma de potencias
Autores: Botha, Tanita; Ferreira, Johannes; Bekker, Andriette
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Alternativa dirichlet para estimar la entropía a través de una función de suma de potencias
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Entropía
Estimación
Prior de Dirichlet
Marco bayesiano
Verosimilitud multinomial
Entropía de Tsallis
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 38
Citaciones: Sin citaciones
La entropía es una función de la probabilidad y es una medida de la información contenida en un sistema; sin embargo, el problema práctico de estimar la entropía en entornos aplicados sigue siendo un problema desafiante y relevante. El prior de Dirichlet es una elección popular en el marco bayesiano para la estimación de la entropía al considerar una verosimilitud multinomial. En este trabajo, se presentan y estudian previamente no considerados priors de tipo Dirichlet. Estos priors incluyen una clase de generadores de Dirichlet, así como una construcción de Dirichlet no central, y en ambos casos incluyen el Dirichlet usual como un caso especial. Estas consideraciones permiten un comportamiento flexible y pueden tener en cuenta la correlación negativa y positiva. Los estimadores resultantes para una función particular, la suma de potencias, bajo estos priors y asumiendo una pérdida de error al cuadrado, se derivan y se representan en términos de los momentos del producto del posterior. Esta representación facilita estimadores en forma cerrada para la entropía de Tsallis, y así agiliza los cálculos de esta forma generalizada de Shannon. Se consideran casos selectos de estos priors propuestos para investigar el impacto y efecto en la estimación de la entropía de Tsallis sujeta a diferentes escenarios de parámetros.
Descripción
La entropía es una función de la probabilidad y es una medida de la información contenida en un sistema; sin embargo, el problema práctico de estimar la entropía en entornos aplicados sigue siendo un problema desafiante y relevante. El prior de Dirichlet es una elección popular en el marco bayesiano para la estimación de la entropía al considerar una verosimilitud multinomial. En este trabajo, se presentan y estudian previamente no considerados priors de tipo Dirichlet. Estos priors incluyen una clase de generadores de Dirichlet, así como una construcción de Dirichlet no central, y en ambos casos incluyen el Dirichlet usual como un caso especial. Estas consideraciones permiten un comportamiento flexible y pueden tener en cuenta la correlación negativa y positiva. Los estimadores resultantes para una función particular, la suma de potencias, bajo estos priors y asumiendo una pérdida de error al cuadrado, se derivan y se representan en términos de los momentos del producto del posterior. Esta representación facilita estimadores en forma cerrada para la entropía de Tsallis, y así agiliza los cálculos de esta forma generalizada de Shannon. Se consideran casos selectos de estos priors propuestos para investigar el impacto y efecto en la estimación de la entropía de Tsallis sujeta a diferentes escenarios de parámetros.