Análisis de Diseño Afectivo de la Inteligencia Artificial Explicable (XAI): Una Perspectiva Centrada en el Usuario
Autores: Bernardo, Ezekiel; Seva, Rosemary
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Análisis de Diseño Afectivo de la Inteligencia Artificial Explicable (XAI): Una Perspectiva Centrada en el Usuario
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Inteligencia artificial explicable
Paradoja de la caja negra
Conocimientos a nivel humano
Algoritmos de aprendizaje automático
XAI centrada en el usuario final
Ruta de calibración de confianza
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
La Inteligencia Artificial Explicable (XAI) ha resuelto con éxito la paradoja de la caja negra de la Inteligencia Artificial (IA). Al proporcionar información a nivel humano sobre la IA, permitió a los usuarios entender su funcionamiento interno incluso con un conocimiento limitado de los algoritmos de aprendizaje automático que utiliza. Como resultado, el campo creció y el desarrollo floreció. Sin embargo, se han expresado preocupaciones de que las técnicas son limitadas en términos de a quiénes son aplicables y cómo se puede aprovechar su efecto. Actualmente, la mayoría de las técnicas de XAI han sido diseñadas por desarrolladores. Aunque son necesarias y valiosas, la XAI es más crítica para un usuario final, considerando que la transparencia se relaciona con la confianza y la adopción. Este estudio tiene como objetivo entender y conceptualizar una XAI centrada en el usuario final para llenar la falta de comprensión del usuario final. Considerando hallazgos recientes de estudios relacionados, este estudio se centra en la conceptualización del diseño y el análisis afectivo. Se recopilaron datos de 202 participantes a través de una encuesta en línea para identificar los componentes de diseño vitales de la XAI y la experimentación en un banco de pruebas para explorar el cambio afectivo y de confianza por cada configuración de diseño. Los resultados muestran que el afecto es una ruta viable para la calibración de la confianza en la XAI. En términos de diseño, la forma de explicación, el estilo de comunicación y la presencia de información suplementaria son los componentes que los usuarios buscan en una XAI efectiva. Por último, la ansiedad sobre la IA, la emoción incidental, la fiabilidad percibida de la IA y la experiencia en el uso del sistema son moderadores significativos del proceso de calibración de la confianza para un usuario final.
Descripción
La Inteligencia Artificial Explicable (XAI) ha resuelto con éxito la paradoja de la caja negra de la Inteligencia Artificial (IA). Al proporcionar información a nivel humano sobre la IA, permitió a los usuarios entender su funcionamiento interno incluso con un conocimiento limitado de los algoritmos de aprendizaje automático que utiliza. Como resultado, el campo creció y el desarrollo floreció. Sin embargo, se han expresado preocupaciones de que las técnicas son limitadas en términos de a quiénes son aplicables y cómo se puede aprovechar su efecto. Actualmente, la mayoría de las técnicas de XAI han sido diseñadas por desarrolladores. Aunque son necesarias y valiosas, la XAI es más crítica para un usuario final, considerando que la transparencia se relaciona con la confianza y la adopción. Este estudio tiene como objetivo entender y conceptualizar una XAI centrada en el usuario final para llenar la falta de comprensión del usuario final. Considerando hallazgos recientes de estudios relacionados, este estudio se centra en la conceptualización del diseño y el análisis afectivo. Se recopilaron datos de 202 participantes a través de una encuesta en línea para identificar los componentes de diseño vitales de la XAI y la experimentación en un banco de pruebas para explorar el cambio afectivo y de confianza por cada configuración de diseño. Los resultados muestran que el afecto es una ruta viable para la calibración de la confianza en la XAI. En términos de diseño, la forma de explicación, el estilo de comunicación y la presencia de información suplementaria son los componentes que los usuarios buscan en una XAI efectiva. Por último, la ansiedad sobre la IA, la emoción incidental, la fiabilidad percibida de la IA y la experiencia en el uso del sistema son moderadores significativos del proceso de calibración de la confianza para un usuario final.