La investigación sobre inteligencia artificial explicable de manera conversacional (CXAI) tiene como objetivo emular la naturaleza interactiva y co-constructiva de las explicaciones. Desde la perspectiva de la centración en el ser humano, trabajos anteriores han demostrado que los usuarios de IA prefieren explicaciones conversacionales sobre las estáticas. También se han propuesto varios enfoques para modelar e implementar soluciones de CXAI. Sin embargo, en cuanto a las capacidades de diálogo concretas que poseen dichos sistemas, los enfoques anteriores no se han fundamentado adecuadamente en patrones de diálogo análogos en la interacción humano-humano. El presente estudio cierra esta brecha en trabajos anteriores al recopilar experimentalmente diálogos humanos que giran en torno a las predicciones de IA sobre la estimación de la personalidad. Al destilar las interacciones recopiladas en el tipo de interacciones que ocurrirían si el explicador fuera un sistema de diálogo, el estudio identifica estrategias de diálogo que podrían ser importantes para que el CXAI las apoye. El estudio revela que algunas de las estrategias observadas-explicar predicciones con referencia a reglas o patrones generales y señalar violaciones de presuposiciones en las preguntas planteadas por los explicados-han recibido muy poca atención en trabajos anteriores sobre CXAI. En general, el estudio contribuye con una metodología para identificar empíricamente los deseos del CXAI en diálogos humanos, así como resultados concretos con implicaciones para trabajos futuros.