La inteligencia artificial (IA) ha sido uno de los campos de investigación y aplicación industrial más emergentes, especialmente en el ámbito de la salud, pero ha operado como un modelo de caja negra con una comprensión limitada de su funcionamiento interno en las últimas décadas. Los algoritmos de IA se basan, en gran parte, en pesos calculados como resultado de grandes multiplicaciones de matrices. Por lo general, es difícil interpretar y depurar los procesos computacionalmente intensivos. La Inteligencia Artificial Explicable (XAI, por sus siglas en inglés) busca resolver enfoques de caja negra y difíciles de depurar mediante el uso de diversas técnicas y herramientas. En este estudio, se aplican técnicas de XAI a la clasificación de heridas crónicas. El modelo propuesto clasifica las heridas crónicas mediante el uso de aprendizaje por transferencia y capas totalmente conectadas. Las imágenes de heridas crónicas clasificadas sirven como entrada al modelo XAI para una explicación. Los resultados interpretables pueden ayudar a arrojar nuevas perspectivas a los médicos durante la fase de diagnóstico. El método propuesto proporciona de manera exitosa la clasificación de heridas crónicas y su explicación asociada para extraer conocimientos adicionales que también pueden ser interpretados por expertos no especializados en ciencia de datos, como científicos médicos y médicos. Se ha demostrado que este enfoque híbrido ayuda con la interpretación y comprensión de los procesos de toma de decisiones de la IA.