Ataques adversarios universales simples de caja negra en redes neuronales profundas para clasificación de imágenes médicas
Autores: Koga, Kazuki; Takemoto, Kazuhiro
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Ataques adversarios universales simples de caja negra en redes neuronales profundas para clasificación de imágenes médicas
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Software
Palabras clave
Ataques adversarios
Red neuronal profunda
UAP
Imágenes médicas
Condición de caja negra
Amenaza de seguridad
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 38
Citaciones: Sin citaciones
Los ataques adversarios universales, que obstaculizan la mayoría de las tareas de redes neuronales profundas (DNN) usando solo una perturbación llamada perturbación adversaria universal (UAP), son una amenaza de seguridad real para la aplicación práctica de una DNN para imágenes médicas. Dado que los sistemas basados en computadora generalmente se operan en una condición de caja negra en la que solo se permiten consultas de entrada y las salidas son accesibles, el impacto de las UAP parece ser limitado porque los algoritmos bien utilizados para generar UAP están limitados a condiciones de caja blanca en las que los adversarios pueden acceder a los parámetros del modelo. Sin embargo, proponemos un método para generar UAP utilizando una simple búsqueda ascendente basada solo en las salidas de DNN para demostrar que las UAP son fácilmente generables utilizando un conjunto de datos relativamente pequeño en condiciones de caja negra con clasificaciones de imágenes médicas basadas en DNN representativas. Las UAP de caja negra se pueden utilizar para llevar a cabo ataques no dirigidos y dirigidos. En general, las UAP de caja negra mostraron altas tasas de éxito de ataque (40-90%). Se observó la vulnerabilidad de las UAP de caja negra en varias arquitecturas de modelos. Los resultados indican que los adversarios también pueden generar UAP a través de un procedimiento simple en la condición de caja negra para sabotear o controlar sistemas de imágenes médicas de diagnóstico basados en DNN, y que las UAP son una amenaza de seguridad más seria.
Descripción
Los ataques adversarios universales, que obstaculizan la mayoría de las tareas de redes neuronales profundas (DNN) usando solo una perturbación llamada perturbación adversaria universal (UAP), son una amenaza de seguridad real para la aplicación práctica de una DNN para imágenes médicas. Dado que los sistemas basados en computadora generalmente se operan en una condición de caja negra en la que solo se permiten consultas de entrada y las salidas son accesibles, el impacto de las UAP parece ser limitado porque los algoritmos bien utilizados para generar UAP están limitados a condiciones de caja blanca en las que los adversarios pueden acceder a los parámetros del modelo. Sin embargo, proponemos un método para generar UAP utilizando una simple búsqueda ascendente basada solo en las salidas de DNN para demostrar que las UAP son fácilmente generables utilizando un conjunto de datos relativamente pequeño en condiciones de caja negra con clasificaciones de imágenes médicas basadas en DNN representativas. Las UAP de caja negra se pueden utilizar para llevar a cabo ataques no dirigidos y dirigidos. En general, las UAP de caja negra mostraron altas tasas de éxito de ataque (40-90%). Se observó la vulnerabilidad de las UAP de caja negra en varias arquitecturas de modelos. Los resultados indican que los adversarios también pueden generar UAP a través de un procedimiento simple en la condición de caja negra para sabotear o controlar sistemas de imágenes médicas de diagnóstico basados en DNN, y que las UAP son una amenaza de seguridad más seria.