Definiendo una Métrica de Explicabilidad Ética para Medir la Confiabilidad de la IA en Sistemas de Salud Conectados
Autores: Naib, Parul; Park, Jaeyoung; Abedin, Paniz; King, Christian; Gurupur, Varadraj
Idioma: Inglés
Editor: MDPI
Año: 2026
Acceso abierto
Artículo científico
2026
Definiendo una Métrica de Explicabilidad Ética para Medir la Confiabilidad de la IA en Sistemas de Salud Conectados
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Inteligencia artificial
ética
Sistemas de salud
Explicaciones de modelos
Riesgos éticos
Internet de las Cosas en Salud
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Aprovechar la Inteligencia Artificial (IA) de manera ética en sistemas de salud conectados requiere un marco cuantificable que mida no solo la corrección de los resultados, sino también la claridad, auditabilidad y aceptabilidad ética de las explicaciones del modelo en flujos de trabajo clínicos y de ciberseguridad de alto riesgo. Este manuscrito presenta primero una revisión narrativa de los riesgos éticos y las contramedidas en el Internet de las Cosas en Salud (HIoT) y explica por qué las métricas de rendimiento existentes son insuficientes para un despliegue confiable. Luego formalizamos una métrica cuantitativa llamada Explicabilidad Ética (Ee) como un índice compuesto que integra (1) una Tasa de Acuerdo Humano (HAR), que captura la concordancia entre las recomendaciones de IA (y su justificación) y un consenso experto calibrado, y (2) un Índice de Reducción de Entropía (ERI), que captura la reducción proporcional en la incertidumbre del experto después de recibir una explicación, operacionalizada a través de cuestionarios de elicitud de probabilidad mapeados a la entropía de Shannon. Diseñada para la monitorización de la seguridad en HIoT, Ee vincula la transparencia con evidencia lista para la gobernanza de la confiabilidad en la colaboración humano-IA.
Descripción
Aprovechar la Inteligencia Artificial (IA) de manera ética en sistemas de salud conectados requiere un marco cuantificable que mida no solo la corrección de los resultados, sino también la claridad, auditabilidad y aceptabilidad ética de las explicaciones del modelo en flujos de trabajo clínicos y de ciberseguridad de alto riesgo. Este manuscrito presenta primero una revisión narrativa de los riesgos éticos y las contramedidas en el Internet de las Cosas en Salud (HIoT) y explica por qué las métricas de rendimiento existentes son insuficientes para un despliegue confiable. Luego formalizamos una métrica cuantitativa llamada Explicabilidad Ética (Ee) como un índice compuesto que integra (1) una Tasa de Acuerdo Humano (HAR), que captura la concordancia entre las recomendaciones de IA (y su justificación) y un consenso experto calibrado, y (2) un Índice de Reducción de Entropía (ERI), que captura la reducción proporcional en la incertidumbre del experto después de recibir una explicación, operacionalizada a través de cuestionarios de elicitud de probabilidad mapeados a la entropía de Shannon. Diseñada para la monitorización de la seguridad en HIoT, Ee vincula la transparencia con evidencia lista para la gobernanza de la confiabilidad en la colaboración humano-IA.