Un Modelo de Entropía Capas para la Cuantificación de Incertidumbre Transparente en IA Médica: Avanzando en el Soporte de Decisiones Confiables en Entornos Clínicos de Pequeños Datos
Autores: Bhattacharjee, Sandeep; Biswas, Sanjib
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Un Modelo de Entropía Capas para la Cuantificación de Incertidumbre Transparente en IA Médica: Avanzando en el Soporte de Decisiones Confiables en Entornos Clínicos de Pequeños Datos
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Sistemas expertos
Sistemas basados en reglas difusas
Modelo de Entropía Capas
Entropía de Shannon
Índice de Confianza Epistémica
Inteligencia artificial explicable
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Los entornos de datos más pequeños con sistemas expertos suelen estar impulsados por la necesidad de marcos de razonamiento interpretables, como los sistemas basados en reglas difusas (FRBS), que a menudo no pueden cuantificar la incertidumbre epistémica durante la toma de decisiones. Este estudio propone un nuevo Modelo de Entropía en Capas (LEM) que comprende tres capas semánticas: Entropía de la Función de Membresía (MFE), Entropía de Activación de Reglas (RAE) y Entropía de Salida del Sistema (SOE). Se aplica la entropía de Shannon en cada capa para permitir una transparencia diagnóstica granular a lo largo del proceso de inferencia. El enfoque fue evaluado utilizando simulaciones sintéticas y un estudio de caso del mundo real sobre el conjunto de datos de Diabetes de los Indios PIMA. En el experimento con datos reales, el sistema produjo decisiones nítidas y completamente seguras con cero entropía en todas las capas, lo que resultó en un Índice de Confianza Epistémica (ECI) de 1.0. El marco propuesto mantiene plena compatibilidad con el diseño convencional de FRBS de Tipo 1, al tiempo que introduce una capacidad de cuantificación de incertidumbre computacionalmente eficiente y completamente interpretable. Los resultados demuestran que LEM puede servir como una herramienta poderosa para validar el conocimiento experto, auditar la transparencia del sistema y su implementación en dominios de decisión de alto riesgo y con pocos datos, como la atención médica, la seguridad y las finanzas. El modelo contribuye directamente a los objetivos de la inteligencia artificial explicable (XAI) al incorporar la trazabilidad de la incertidumbre dentro del propio proceso de razonamiento.
Descripción
Los entornos de datos más pequeños con sistemas expertos suelen estar impulsados por la necesidad de marcos de razonamiento interpretables, como los sistemas basados en reglas difusas (FRBS), que a menudo no pueden cuantificar la incertidumbre epistémica durante la toma de decisiones. Este estudio propone un nuevo Modelo de Entropía en Capas (LEM) que comprende tres capas semánticas: Entropía de la Función de Membresía (MFE), Entropía de Activación de Reglas (RAE) y Entropía de Salida del Sistema (SOE). Se aplica la entropía de Shannon en cada capa para permitir una transparencia diagnóstica granular a lo largo del proceso de inferencia. El enfoque fue evaluado utilizando simulaciones sintéticas y un estudio de caso del mundo real sobre el conjunto de datos de Diabetes de los Indios PIMA. En el experimento con datos reales, el sistema produjo decisiones nítidas y completamente seguras con cero entropía en todas las capas, lo que resultó en un Índice de Confianza Epistémica (ECI) de 1.0. El marco propuesto mantiene plena compatibilidad con el diseño convencional de FRBS de Tipo 1, al tiempo que introduce una capacidad de cuantificación de incertidumbre computacionalmente eficiente y completamente interpretable. Los resultados demuestran que LEM puede servir como una herramienta poderosa para validar el conocimiento experto, auditar la transparencia del sistema y su implementación en dominios de decisión de alto riesgo y con pocos datos, como la atención médica, la seguridad y las finanzas. El modelo contribuye directamente a los objetivos de la inteligencia artificial explicable (XAI) al incorporar la trazabilidad de la incertidumbre dentro del propio proceso de razonamiento.