Cada paso que damos en el mundo digital deja un registro de nuestro comportamiento; una huella digital. La investigación ha sugerido que los algoritmos pueden traducir estas huellas digitales en estimaciones precisas de características psicológicas, incluyendo rasgos de personalidad, salud mental o inteligencia. Sin embargo, los mecanismos por los cuales la IA genera estos conocimientos a menudo permanecen opacos. En este documento, mostramos cómo la IA Explicable (XAI) puede ayudar a expertos en el dominio y a los sujetos de datos a validar, cuestionar y mejorar modelos que clasifican rasgos psicológicos a partir de huellas digitales. Elaboramos sobre dos métodos populares de XAI (extracción de reglas y explicaciones contrafactuales) en el contexto de las predicciones de personalidad de los Cinco Grandes (rasgos y facetas) a partir de datos de transacciones financieras (N = 6408). Primero, demostramos cómo la extracción de reglas globales ilumina los patrones de gasto identificados por el modelo como los más predictivos para la personalidad, y discutimos cómo estas reglas pueden ser utilizadas para explicar, validar y mejorar el modelo. En segundo lugar, implementamos la extracción de reglas locales para mostrar que los individuos son asignados a clases de personalidad debido a su comportamiento financiero único, y existe un vínculo positivo entre la confianza en la predicción del modelo y el número de características que contribuyeron a la predicción. Nuestros experimentos destacan la importancia de los métodos de XAI tanto globales como locales. Al comprender mejor cómo funcionan los modelos predictivos en general, así como cómo derivan un resultado para una persona en particular, la XAI promueve la responsabilidad en un mundo en el que la IA impacta la vida de miles de millones de personas en todo el mundo.