logo móvil
Contáctanos

De Sistemas de Diálogo a Agentes Autónomos: Un Marco de Modelado para la IA Generativa Ética en la Atención Médica

Autores: Chow, James C. L.; Li, Kay

Idioma: Inglés

Editor: MDPI

Año: 2026

Descargar PDF

Acceso abierto

Artículo científico
2026

De Sistemas de Diálogo a Agentes Autónomos: Un Marco de Modelado para la IA Generativa Ética en la Atención Médica


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Avance
Inteligencia artificial
Atención médica
Agentes de IA clínica
Consideraciones éticas
Dimensiones de arquitectura

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
El avance de la inteligencia artificial generativa (IAE) en la atención médica está impulsando una transición de chatbots médicos basados en diálogos a agentes clínicos de IA integrados en flujos de trabajo. Estos sistemas agentes incorporan gestión de estado persistente, invocación coordinada de herramientas y autonomía limitada, lo que permite un razonamiento de múltiples pasos dentro de los procesos institucionales. Como resultado, los marcos de evaluación tradicionales a nivel de respuesta son insuficientes para comprender el comportamiento del sistema. Esta revisión proporciona una síntesis conceptual de la evolución de los sistemas conversacionales a las arquitecturas agentes y propone un marco de modelado a nivel de sistema para agentes clínicos de IA éticos. Identificamos dimensiones arquitectónicas clave, incluyendo gradientes de autonomía, persistencia del estado, orquestación de herramientas, acoplamiento de flujos de trabajo y co-agencia humano-IA, y examinamos cómo estas características remodelan las vías de propagación de sesgos, la dinámica de cascadas de errores, la calibración de la confianza y las estructuras de responsabilidad. Enfatizando que los riesgos éticos surgen de interacciones sistemáticas longitudinales en lugar de salidas aisladas, argumentamos a favor de incorporar restricciones de equidad, mecanismos de transparencia y gobernanza del ciclo de vida directamente dentro del diseño de IA. Al delinear estrategias de evaluación a nivel de trayectoria, enfoques de desarrollo conscientes de la equidad, modelos de supervisión colaborativa y marcos regulatorios adaptativos, este documento establece una base para la integración responsable y confiable de la IA agente en la atención médica.

Otros recursos que podrían interesarte

Temas Virtualpro