Mejorando la Toma de Decisiones Intuitiva y la Confianza a Través de la Colaboración Humano-IA: Una Revisión
Autores: Xu, Gerui; Murthy, Shruthi Venkatesha; Jia, Bochen
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Mejorando la Toma de Decisiones Intuitiva y la Confianza a Través de la Colaboración Humano-IA: Una Revisión
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Sistemas de apoyo a la decisión de IA
Intuición humana
Calibración de la confianza
Implicaciones éticas
Estrategias de diseño
Responsabilidad
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
A medida que los sistemas de soporte de decisiones basados en IA desempeñan un papel creciente en la toma de decisiones de alto riesgo, es esencial garantizar una integración efectiva de la intuición humana con las recomendaciones de IA. A pesar de los avances en la explicabilidad de la IA, persisten desafíos para fomentar una dependencia adecuada. Esta revisión explora los sistemas de soporte de decisiones de IA que mejoran la intuición humana a través del análisis de 84 estudios que abordan tres preguntas: (1) ¿Qué estrategias de diseño permiten que los sistemas de IA apoyen las capacidades intuitivas de los humanos mientras mantienen la autonomía en la toma de decisiones? (2) ¿Cómo influyen los enfoques de presentación e interacción de la IA en la calibración de la confianza y los comportamientos de dependencia en la colaboración humano-IA? (3) ¿Qué implicaciones éticas y prácticas surgen de la integración de sistemas de soporte de decisiones de IA en la toma de decisiones humanas de alto riesgo, particularmente en lo que respecta a la calibración de la confianza, la degradación de habilidades y la responsabilidad en diferentes dominios? Nuestros hallazgos revelan cuatro estrategias clave de diseño: arquitecturas de roles complementarios que amplifican en lugar de reemplazar el juicio humano, diseños centrados en el usuario adaptativos que ajustan el apoyo de IA a los estilos de toma de decisiones individuales, asignación de tareas consciente del contexto que asigna dinámicamente responsabilidades según factores situacionales, y mecanismos de calibración de dependencia autónoma que empoderan el control de los usuarios sobre la dependencia de la IA. Identificamos que las presentaciones visuales, las características interactivas y la comunicación de incertidumbre influyen significativamente en la calibración de la confianza, siendo los simples resaltados visuales más efectivos que los métodos de presentación e interacción complejos para prevenir la sobredependencia. Sin embargo, surge un preocupante paradoja de rendimiento donde las combinaciones humano-IA a menudo tienen un rendimiento inferior al mejor agente individual, mientras superan el rendimiento solo humano. La investigación demuestra que la integración exitosa de la IA en contextos de alto riesgo requiere una calibración específica del dominio, un diseño sociotécnico integrado que aborde simultáneamente la calibración de la confianza y la preservación de habilidades, y medidas proactivas para mantener la agencia humana y las competencias esenciales para la seguridad, la responsabilidad y la ética.
Descripción
A medida que los sistemas de soporte de decisiones basados en IA desempeñan un papel creciente en la toma de decisiones de alto riesgo, es esencial garantizar una integración efectiva de la intuición humana con las recomendaciones de IA. A pesar de los avances en la explicabilidad de la IA, persisten desafíos para fomentar una dependencia adecuada. Esta revisión explora los sistemas de soporte de decisiones de IA que mejoran la intuición humana a través del análisis de 84 estudios que abordan tres preguntas: (1) ¿Qué estrategias de diseño permiten que los sistemas de IA apoyen las capacidades intuitivas de los humanos mientras mantienen la autonomía en la toma de decisiones? (2) ¿Cómo influyen los enfoques de presentación e interacción de la IA en la calibración de la confianza y los comportamientos de dependencia en la colaboración humano-IA? (3) ¿Qué implicaciones éticas y prácticas surgen de la integración de sistemas de soporte de decisiones de IA en la toma de decisiones humanas de alto riesgo, particularmente en lo que respecta a la calibración de la confianza, la degradación de habilidades y la responsabilidad en diferentes dominios? Nuestros hallazgos revelan cuatro estrategias clave de diseño: arquitecturas de roles complementarios que amplifican en lugar de reemplazar el juicio humano, diseños centrados en el usuario adaptativos que ajustan el apoyo de IA a los estilos de toma de decisiones individuales, asignación de tareas consciente del contexto que asigna dinámicamente responsabilidades según factores situacionales, y mecanismos de calibración de dependencia autónoma que empoderan el control de los usuarios sobre la dependencia de la IA. Identificamos que las presentaciones visuales, las características interactivas y la comunicación de incertidumbre influyen significativamente en la calibración de la confianza, siendo los simples resaltados visuales más efectivos que los métodos de presentación e interacción complejos para prevenir la sobredependencia. Sin embargo, surge un preocupante paradoja de rendimiento donde las combinaciones humano-IA a menudo tienen un rendimiento inferior al mejor agente individual, mientras superan el rendimiento solo humano. La investigación demuestra que la integración exitosa de la IA en contextos de alto riesgo requiere una calibración específica del dominio, un diseño sociotécnico integrado que aborde simultáneamente la calibración de la confianza y la preservación de habilidades, y medidas proactivas para mantener la agencia humana y las competencias esenciales para la seguridad, la responsabilidad y la ética.