logo móvil
Contáctanos

Definiendo una Métrica de Explicabilidad Ética para Medir la Confiabilidad de la IA en Sistemas de Salud Conectados

Autores: Naib, Parul; Park, Jaeyoung; Abedin, Paniz; King, Christian; Gurupur, Varadraj

Idioma: Inglés

Editor: MDPI

Año: 2026

Descargar PDF

Acceso abierto

Artículo científico
2026

Definiendo una Métrica de Explicabilidad Ética para Medir la Confiabilidad de la IA en Sistemas de Salud Conectados


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Inteligencia artificial
ética
Sistemas de salud
Explicaciones de modelos
Riesgos éticos
Internet de las Cosas en Salud

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
Aprovechar la Inteligencia Artificial (IA) de manera ética en sistemas de salud conectados requiere un marco cuantificable que mida no solo la corrección de los resultados, sino también la claridad, auditabilidad y aceptabilidad ética de las explicaciones del modelo en flujos de trabajo clínicos y de ciberseguridad de alto riesgo. Este manuscrito presenta primero una revisión narrativa de los riesgos éticos y las contramedidas en el Internet de las Cosas en Salud (HIoT) y explica por qué las métricas de rendimiento existentes son insuficientes para un despliegue confiable. Luego formalizamos una métrica cuantitativa llamada Explicabilidad Ética (Ee) como un índice compuesto que integra (1) una Tasa de Acuerdo Humano (HAR), que captura la concordancia entre las recomendaciones de IA (y su justificación) y un consenso experto calibrado, y (2) un Índice de Reducción de Entropía (ERI), que captura la reducción proporcional en la incertidumbre del experto después de recibir una explicación, operacionalizada a través de cuestionarios de elicitud de probabilidad mapeados a la entropía de Shannon. Diseñada para la monitorización de la seguridad en HIoT, Ee vincula la transparencia con evidencia lista para la gobernanza de la confiabilidad en la colaboración humano-IA.

Otros recursos que podrían interesarte

Temas Virtualpro