Restricting activation distance to enhance consistency of visual interpretation in neighborhood noise training
Autores: Wang, Xingyu; Ma, Rui; He, Jinyuan; Zhang, Taisi; Wang, Xiajing; Xue, Jingfeng
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Restricting activation distance to enhance consistency of visual interpretation in neighborhood noise training
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Propuesto
Interpretable
Entrenamiento de ruido del vecindario
Consistencia
Características robustas
Restricción de distancia de activación
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 36
Citaciones: Sin citaciones
En este documento, proponemos un marco de entrenamiento de ruido en vecindario interpretable de extremo a extremo (INNT) para abordar el problema de interpretaciones inconsistentes entre muestras limpias y ruidosas en el entrenamiento de ruido. El entrenamiento de ruido convencionalmente implica incorporar muestras ruidosas en el conjunto de entrenamiento, seguido de un entrenamiento de generalización. Sin embargo, las interpretaciones visuales sugieren que los modelos pueden estar aprendiendo la distribución de ruido en lugar de las características objetivo robustas deseadas. Para mitigar este problema, reformulamos el objetivo de entrenamiento de ruido para minimizar la consistencia de interpretación visual de imágenes en el vecindario de muestra. Diseñamos un término de regularización de restricción de distancia de activación de ruido para hacer cumplir la similitud de mapas de características de alto nivel entre muestras limpias y ruidosas. Además, mejoramos la estructura del entrenamiento de ruido al volver a muestrear iterativamente el ruido para representar con mayor precisión el vecindario de muestra. Además, se introduce ruido de vecindario para lograr un muestreo de vecindario de muestra más intuitivo. Finalmente, realizamos pruebas cualitativas y cuantitativas en diferentes arquitecturas de CNN y conjuntos de datos públicos. Los resultados indican que INNT conduce a una justificación de decisión más consistente y equilibra la precisión entre muestras ruidosas y limpias.
Descripción
En este documento, proponemos un marco de entrenamiento de ruido en vecindario interpretable de extremo a extremo (INNT) para abordar el problema de interpretaciones inconsistentes entre muestras limpias y ruidosas en el entrenamiento de ruido. El entrenamiento de ruido convencionalmente implica incorporar muestras ruidosas en el conjunto de entrenamiento, seguido de un entrenamiento de generalización. Sin embargo, las interpretaciones visuales sugieren que los modelos pueden estar aprendiendo la distribución de ruido en lugar de las características objetivo robustas deseadas. Para mitigar este problema, reformulamos el objetivo de entrenamiento de ruido para minimizar la consistencia de interpretación visual de imágenes en el vecindario de muestra. Diseñamos un término de regularización de restricción de distancia de activación de ruido para hacer cumplir la similitud de mapas de características de alto nivel entre muestras limpias y ruidosas. Además, mejoramos la estructura del entrenamiento de ruido al volver a muestrear iterativamente el ruido para representar con mayor precisión el vecindario de muestra. Además, se introduce ruido de vecindario para lograr un muestreo de vecindario de muestra más intuitivo. Finalmente, realizamos pruebas cualitativas y cuantitativas en diferentes arquitecturas de CNN y conjuntos de datos públicos. Los resultados indican que INNT conduce a una justificación de decisión más consistente y equilibra la precisión entre muestras ruidosas y limpias.