En los últimos años, las redes neuronales convolucionales profundas (DCNNs) han mostrado un rendimiento prometedor en el análisis de imágenes médicas, incluida la clasificación de lesiones en el seno en imágenes de ultrasonido 2D (US). A pesar del rendimiento sobresaliente de las soluciones de DCNN, explicar sus decisiones sigue siendo una investigación abierta. Sin embargo, la explicabilidad de los modelos de DCNN se ha vuelto esencial para que los sistemas de salud acepten y confíen en los modelos. Este artículo presenta un nuevo marco para explicar las decisiones de clasificación de DCNN de lesiones en imágenes de ultrasonido utilizando los mapas de saliencia que vinculan las decisiones de DCNN con las características conocidas del cáncer en el dominio médico. El marco propuesto consta de tres fases principales. En primer lugar, se construyen modelos de DCNN para la clasificación en imágenes de ultrasonido. A continuación, se aplican métodos seleccionados de visualización para obtener mapas de saliencia en las imágenes de entrada de los modelos de DCNN. En la fase final, se mapean las salidas de visualización y las características de cáncer conocidas en el dominio. El artículo luego demuestra el uso del marco para la clasificación de lesiones en el seno a partir de imágenes de ultrasonido. Primero seguimos el enfoque de aprendizaje por transferencia y construimos dos modelos de DCNN. Luego analizamos las salidas de visualización de los modelos de DCNN entrenados utilizando los métodos EGrad-CAM y Ablation-CAM. Mapeamos las decisiones del modelo de DCNN de lesiones benignas y malignas a través de las salidas de visualización a características como la ecogenicidad, la calcificación, la forma y el margen. Se utiliza un conjunto de datos retrospectivo de 1298 imágenes de ultrasonido recopiladas de diferentes hospitales para evaluar la efectividad del marco. Los resultados de la prueba muestran que estas características contribuyen de manera diferente a las decisiones de lesiones benignas y malignas. Nuestro estudio proporciona la base para que otros investigadores expliquen las decisiones de clasificación de DCNN de otros tipos de cáncer.