Colaboración en la toma de decisiones con IA responsable: estableciendo modelos de confianza y carga para transparencia probabilística
Autores: Wang, Xinyue; Li, Yaxin; Xue, Chengqi
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Colaboración en la toma de decisiones con IA responsable: estableciendo modelos de confianza y carga para transparencia probabilística
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Desarrollo de IA
Transparencia
Estados de usuario
Confianza
Carga
Indicadores probabilísticos
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 32
Citaciones: Sin citaciones
En el desarrollo de la IA responsable, la construcción de sistemas de IA con transparencia bien diseñada y la capacidad de lograr ajustes adaptativos de transparencia requiere una comprensión clara y cuantificada de los estados del usuario durante el proceso de interacción. Entre estos, la confianza y la carga son dos estados importantes de la psicología interna del usuario, aunque a menudo desafiantes de determinar directamente. Por lo tanto, este estudio emplea experimentos de transparencia que involucran múltiples indicadores probabilísticos para capturar la conformidad de los usuarios y los tiempos de reacción durante el proceso de colaboración interactiva al recibir retroalimentación en tiempo real. Posteriormente, se establecen estimaciones de los estados de confianza y carga, lo que lleva al desarrollo de una matriz de transición de estados. A través del establecimiento de un modelo de confianza-carga de trabajo, se obtienen estimaciones probabilísticas de los estados de usuario bajo diferentes niveles de transparencia, delineando cuantitativamente la evolución de estados y transparencia dentro de las secuencias de interacción. Esta investigación sienta las bases para futuros esfuerzos en la formulación de estrategias óptimas y el desarrollo de estrategias de ajuste adaptativo dinámico de transparencia basadas en las restricciones del modelo de estado de confianza-carga de trabajo.
Descripción
En el desarrollo de la IA responsable, la construcción de sistemas de IA con transparencia bien diseñada y la capacidad de lograr ajustes adaptativos de transparencia requiere una comprensión clara y cuantificada de los estados del usuario durante el proceso de interacción. Entre estos, la confianza y la carga son dos estados importantes de la psicología interna del usuario, aunque a menudo desafiantes de determinar directamente. Por lo tanto, este estudio emplea experimentos de transparencia que involucran múltiples indicadores probabilísticos para capturar la conformidad de los usuarios y los tiempos de reacción durante el proceso de colaboración interactiva al recibir retroalimentación en tiempo real. Posteriormente, se establecen estimaciones de los estados de confianza y carga, lo que lleva al desarrollo de una matriz de transición de estados. A través del establecimiento de un modelo de confianza-carga de trabajo, se obtienen estimaciones probabilísticas de los estados de usuario bajo diferentes niveles de transparencia, delineando cuantitativamente la evolución de estados y transparencia dentro de las secuencias de interacción. Esta investigación sienta las bases para futuros esfuerzos en la formulación de estrategias óptimas y el desarrollo de estrategias de ajuste adaptativo dinámico de transparencia basadas en las restricciones del modelo de estado de confianza-carga de trabajo.