Una mamografía proporciona una imagen en escala de grises del seno. El principal desafío al analizar imágenes de mamografía es extraer el límite de la región de la anormalidad del seno para un análisis posterior. En visión por computadora, este método también se conoce como segmentación de imágenes. El modelo matemático de nivel de conjunto variacional ha demostrado ser efectivo para la segmentación de imágenes. Varios tipos selectivos de modelos de nivel de conjunto variacional se han formulado recientemente para segmentar con precisión un objeto específico en imágenes. Sin embargo, estos modelos no pueden manejar imágenes con inhomogeneidad de intensidad compleja, y el proceso de segmentación tiende a ser lento. Por lo tanto, este estudio formuló un nuevo tipo selectivo del modelo de nivel de conjunto variacional para segmentar imágenes de mamografía que incorporan un algoritmo de aprendizaje automático conocido como Mapa Auto-organizado (SOM). Además de eso, se aplicó la función gaussiana en el modelo como regularizador para acelerar el tiempo de procesamiento. Luego, la precisión de la salida de la segmentación se evaluó utilizando las métricas de Jaccard, Dice, Precisión y Error, mientras que la eficiencia se evaluó registrando el tiempo computacional. Los resultados experimentales indicaron que el nuevo modelo propuesto es capaz de segmentar imágenes de mamografía con la mayor precisión de segmentación y la velocidad computacional más rápida en comparación con otros modelos iterativos.