De Sistemas de Diálogo a Agentes Autónomos: Un Marco de Modelado para la IA Generativa Ética en la Atención Médica
Autores: Chow, James C. L.; Li, Kay
Idioma: Inglés
Editor: MDPI
Año: 2026
Acceso abierto
Artículo científico
2026
De Sistemas de Diálogo a Agentes Autónomos: Un Marco de Modelado para la IA Generativa Ética en la Atención Médica
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Avance
Inteligencia artificial
Atención médica
Agentes de IA clínica
Consideraciones éticas
Dimensiones de arquitectura
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
El avance de la inteligencia artificial generativa (IAE) en la atención médica está impulsando una transición de chatbots médicos basados en diálogos a agentes clínicos de IA integrados en flujos de trabajo. Estos sistemas agentes incorporan gestión de estado persistente, invocación coordinada de herramientas y autonomía limitada, lo que permite un razonamiento de múltiples pasos dentro de los procesos institucionales. Como resultado, los marcos de evaluación tradicionales a nivel de respuesta son insuficientes para comprender el comportamiento del sistema. Esta revisión proporciona una síntesis conceptual de la evolución de los sistemas conversacionales a las arquitecturas agentes y propone un marco de modelado a nivel de sistema para agentes clínicos de IA éticos. Identificamos dimensiones arquitectónicas clave, incluyendo gradientes de autonomía, persistencia del estado, orquestación de herramientas, acoplamiento de flujos de trabajo y co-agencia humano-IA, y examinamos cómo estas características remodelan las vías de propagación de sesgos, la dinámica de cascadas de errores, la calibración de la confianza y las estructuras de responsabilidad. Enfatizando que los riesgos éticos surgen de interacciones sistemáticas longitudinales en lugar de salidas aisladas, argumentamos a favor de incorporar restricciones de equidad, mecanismos de transparencia y gobernanza del ciclo de vida directamente dentro del diseño de IA. Al delinear estrategias de evaluación a nivel de trayectoria, enfoques de desarrollo conscientes de la equidad, modelos de supervisión colaborativa y marcos regulatorios adaptativos, este documento establece una base para la integración responsable y confiable de la IA agente en la atención médica.
Descripción
El avance de la inteligencia artificial generativa (IAE) en la atención médica está impulsando una transición de chatbots médicos basados en diálogos a agentes clínicos de IA integrados en flujos de trabajo. Estos sistemas agentes incorporan gestión de estado persistente, invocación coordinada de herramientas y autonomía limitada, lo que permite un razonamiento de múltiples pasos dentro de los procesos institucionales. Como resultado, los marcos de evaluación tradicionales a nivel de respuesta son insuficientes para comprender el comportamiento del sistema. Esta revisión proporciona una síntesis conceptual de la evolución de los sistemas conversacionales a las arquitecturas agentes y propone un marco de modelado a nivel de sistema para agentes clínicos de IA éticos. Identificamos dimensiones arquitectónicas clave, incluyendo gradientes de autonomía, persistencia del estado, orquestación de herramientas, acoplamiento de flujos de trabajo y co-agencia humano-IA, y examinamos cómo estas características remodelan las vías de propagación de sesgos, la dinámica de cascadas de errores, la calibración de la confianza y las estructuras de responsabilidad. Enfatizando que los riesgos éticos surgen de interacciones sistemáticas longitudinales en lugar de salidas aisladas, argumentamos a favor de incorporar restricciones de equidad, mecanismos de transparencia y gobernanza del ciclo de vida directamente dentro del diseño de IA. Al delinear estrategias de evaluación a nivel de trayectoria, enfoques de desarrollo conscientes de la equidad, modelos de supervisión colaborativa y marcos regulatorios adaptativos, este documento establece una base para la integración responsable y confiable de la IA agente en la atención médica.