En los últimos años, la aplicación de Transformadores y Transformadores de Visión (ViTs) en el registro de imágenes médicas se ha visto limitada por mecanismos de atención deslizante, que luchan por capturar de manera efectiva estructuras no adyacentes pero críticas, como el hipocampo y los ventrículos en el cerebro. Además, la falta de etiquetas en el registro no supervisado a menudo conduce al sobreajuste.