Sesgando Explicaciones Basadas en Reglas Hacia las Preferencias del Usuario
Autores: Mahya, Parisa; Fürnkranz, Johannes
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Sesgando Explicaciones Basadas en Reglas Hacia las Preferencias del Usuario
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Creciente prevalencia
IA explicable
Transparencia
Confiabilidad
Explicaciones personalizadas
Preferencias del usuario
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Con la creciente prevalencia de la IA Explicable (XAI), la efectividad, transparencia, utilidad y confiabilidad de las explicaciones han cobrado protagonismo. Sin embargo, el trabajo reciente en XAI a menudo aún no logra integrar el conocimiento y las preferencias humanas en el proceso explicativo. En este artículo, buscamos cerrar esta brecha proponiendo un método novedoso que personaliza explicaciones basadas en reglas según las necesidades de diferentes usuarios, basado en su experiencia y conocimiento previo, formalizado como un conjunto de funciones de ponderación sobre un grafo de conocimiento. Si bien asumimos que las preferencias del usuario se proporcionan como una función de ponderación, nuestro enfoque se centra en generar explicaciones adaptadas al conocimiento previo del usuario. El método transforma modelos interpretables basados en reglas en explicaciones personalizadas, considerando las preferencias del usuario en términos de la granularidad del conocimiento. La evaluación de nuestro enfoque en múltiples conjuntos de datos demuestra que las explicaciones generadas están altamente alineadas con las preferencias simuladas de los usuarios en comparación con explicaciones no personalizadas.
Descripción
Con la creciente prevalencia de la IA Explicable (XAI), la efectividad, transparencia, utilidad y confiabilidad de las explicaciones han cobrado protagonismo. Sin embargo, el trabajo reciente en XAI a menudo aún no logra integrar el conocimiento y las preferencias humanas en el proceso explicativo. En este artículo, buscamos cerrar esta brecha proponiendo un método novedoso que personaliza explicaciones basadas en reglas según las necesidades de diferentes usuarios, basado en su experiencia y conocimiento previo, formalizado como un conjunto de funciones de ponderación sobre un grafo de conocimiento. Si bien asumimos que las preferencias del usuario se proporcionan como una función de ponderación, nuestro enfoque se centra en generar explicaciones adaptadas al conocimiento previo del usuario. El método transforma modelos interpretables basados en reglas en explicaciones personalizadas, considerando las preferencias del usuario en términos de la granularidad del conocimiento. La evaluación de nuestro enfoque en múltiples conjuntos de datos demuestra que las explicaciones generadas están altamente alineadas con las preferencias simuladas de los usuarios en comparación con explicaciones no personalizadas.