AdvSCOD: detección de distribución externa basada en Bayes a través de bocetos de curvatura y enriquecimiento de muestras adversarias
Autores: Qiao, Jiacheng; Zhong, Chengzhi; Zhu, Peican; Tang, Keke
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
AdvSCOD: detección de distribución externa basada en Bayes a través de bocetos de curvatura y enriquecimiento de muestras adversarias
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Detección
Muestras OOD
Redes neuronales profundas
Modelo bayesiano
Incertidumbre
Marco AdvSCOD
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 22
Citaciones: Sin citaciones
Detectar muestras fuera de distribución (OOD) es crítico para la implementación de redes neuronales profundas (DNN) en escenarios del mundo real. Una dirección atractiva para llevar a cabo la detección de OOD es medir la incertidumbre epistémica en las DNN utilizando el modelo bayesiano, ya que es mucho más explicativo. SCOD esboza la curvatura de los clasificadores DNN basados en la estimación posterior bayesiana y descompone la medición de OOD en la incertidumbre de los parámetros del modelo y la influencia de las muestras de entrada en los modelos DNN. Sin embargo, dado que se aplican muchas aproximaciones y la influencia de las muestras de entrada en los modelos DNN apenas se puede medir de manera estable, como se demuestra en los ataques adversarios, la detección no es robusta. En este documento, proponemos un nuevo marco AdvSCOD que enriquece la muestra de entrada con un pequeño conjunto de sus vecindarios generados aplicando una perturbación adversaria, que creemos que puede reflejar mejor la influencia en las predicciones del modelo, y luego promediamos sus incertidumbres, medidas por SCOD. Experimentos extensos con diferentes configuraciones de conjuntos de datos en distribución y OOD validan la efectividad de AdvSCOD en la detección de OOD y su superioridad a los métodos basados en Bayes más avanzados. También evaluamos la influencia de diferentes tipos de perturbación.
Descripción
Detectar muestras fuera de distribución (OOD) es crítico para la implementación de redes neuronales profundas (DNN) en escenarios del mundo real. Una dirección atractiva para llevar a cabo la detección de OOD es medir la incertidumbre epistémica en las DNN utilizando el modelo bayesiano, ya que es mucho más explicativo. SCOD esboza la curvatura de los clasificadores DNN basados en la estimación posterior bayesiana y descompone la medición de OOD en la incertidumbre de los parámetros del modelo y la influencia de las muestras de entrada en los modelos DNN. Sin embargo, dado que se aplican muchas aproximaciones y la influencia de las muestras de entrada en los modelos DNN apenas se puede medir de manera estable, como se demuestra en los ataques adversarios, la detección no es robusta. En este documento, proponemos un nuevo marco AdvSCOD que enriquece la muestra de entrada con un pequeño conjunto de sus vecindarios generados aplicando una perturbación adversaria, que creemos que puede reflejar mejor la influencia en las predicciones del modelo, y luego promediamos sus incertidumbres, medidas por SCOD. Experimentos extensos con diferentes configuraciones de conjuntos de datos en distribución y OOD validan la efectividad de AdvSCOD en la detección de OOD y su superioridad a los métodos basados en Bayes más avanzados. También evaluamos la influencia de diferentes tipos de perturbación.