logo móvil
Contáctanos

Análisis de Diseño Afectivo de la Inteligencia Artificial Explicable (XAI): Una Perspectiva Centrada en el Usuario

Autores: Bernardo, Ezekiel; Seva, Rosemary

Idioma: Inglés

Editor: MDPI

Año: 2023

Descargar PDF

Acceso abierto

Artículo científico
2023

Análisis de Diseño Afectivo de la Inteligencia Artificial Explicable (XAI): Una Perspectiva Centrada en el Usuario


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Inteligencia artificial explicable
Paradoja de la caja negra
Conocimientos a nivel humano
Algoritmos de aprendizaje automático
XAI centrada en el usuario final
Ruta de calibración de confianza

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
La Inteligencia Artificial Explicable (XAI) ha resuelto con éxito la paradoja de la caja negra de la Inteligencia Artificial (IA). Al proporcionar información a nivel humano sobre la IA, permitió a los usuarios entender su funcionamiento interno incluso con un conocimiento limitado de los algoritmos de aprendizaje automático que utiliza. Como resultado, el campo creció y el desarrollo floreció. Sin embargo, se han expresado preocupaciones de que las técnicas son limitadas en términos de a quiénes son aplicables y cómo se puede aprovechar su efecto. Actualmente, la mayoría de las técnicas de XAI han sido diseñadas por desarrolladores. Aunque son necesarias y valiosas, la XAI es más crítica para un usuario final, considerando que la transparencia se relaciona con la confianza y la adopción. Este estudio tiene como objetivo entender y conceptualizar una XAI centrada en el usuario final para llenar la falta de comprensión del usuario final. Considerando hallazgos recientes de estudios relacionados, este estudio se centra en la conceptualización del diseño y el análisis afectivo. Se recopilaron datos de 202 participantes a través de una encuesta en línea para identificar los componentes de diseño vitales de la XAI y la experimentación en un banco de pruebas para explorar el cambio afectivo y de confianza por cada configuración de diseño. Los resultados muestran que el afecto es una ruta viable para la calibración de la confianza en la XAI. En términos de diseño, la forma de explicación, el estilo de comunicación y la presencia de información suplementaria son los componentes que los usuarios buscan en una XAI efectiva. Por último, la ansiedad sobre la IA, la emoción incidental, la fiabilidad percibida de la IA y la experiencia en el uso del sistema son moderadores significativos del proceso de calibración de la confianza para un usuario final.

Otros recursos que podrían interesarte

Temas Virtualpro