Los recientes desarrollos en IoT, big data, redes de niebla y de borde, y tecnologías de IA han tenido un profundo impacto en varias industrias, incluida la médica. El uso de IA con fines terapéuticos se ha visto obstaculizado por su inexplicabilidad. La Inteligencia Artificial Explicable (XAI), un movimiento revolucionario, ha surgido para resolver esta limitación. Al utilizar salidas de toma de decisiones y predicciones, XAI busca mejorar la explicabilidad de los modelos de IA estándar. En este estudio, examinamos los desarrollos globales en la investigación empírica de XAI en el campo médico. Se utilizaron las herramientas de análisis bibliométrico VOSviewer y Biblioshiny para examinar 171 publicaciones de acceso abierto de la base de datos Scopus (2019-2022). Nuestros hallazgos apuntan a varias perspectivas de crecimiento en esta área, notablemente en campos de la medicina como la imagenología diagnóstica. Con 109 artículos de investigación que utilizan XAI para clasificación, predicción y diagnóstico en salud, EE. UU. lidera el mundo en producción de investigación. Con 88 citas, IEEE Access tiene el mayor número de publicaciones de todas las revistas. Nuestra extensa encuesta cubre una variedad de aplicaciones de XAI en salud, como diagnóstico, terapia, prevención y paliación, y ofrece información útil para investigadores interesados en este campo. Este informe proporciona una dirección para futuros esfuerzos de investigación en la industria de la salud.