logo móvil
Contáctanos

Ataques adversarios universales simples de caja negra en redes neuronales profundas para clasificación de imágenes médicas

Autores: Koga, Kazuki; Takemoto, Kazuhiro

Idioma: Inglés

Editor: MDPI

Año: 2022

Descargar PDF

Acceso abierto

Artículo científico
2022

Ataques adversarios universales simples de caja negra en redes neuronales profundas para clasificación de imágenes médicas


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería de Software

Palabras clave

Ataques adversarios
Red neuronal profunda
UAP
Imágenes médicas
Condición de caja negra
Amenaza de seguridad

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 38

Citaciones: Sin citaciones


Descripción
Los ataques adversarios universales, que obstaculizan la mayoría de las tareas de redes neuronales profundas (DNN) usando solo una perturbación llamada perturbación adversaria universal (UAP), son una amenaza de seguridad real para la aplicación práctica de una DNN para imágenes médicas. Dado que los sistemas basados en computadora generalmente se operan en una condición de caja negra en la que solo se permiten consultas de entrada y las salidas son accesibles, el impacto de las UAP parece ser limitado porque los algoritmos bien utilizados para generar UAP están limitados a condiciones de caja blanca en las que los adversarios pueden acceder a los parámetros del modelo. Sin embargo, proponemos un método para generar UAP utilizando una simple búsqueda ascendente basada solo en las salidas de DNN para demostrar que las UAP son fácilmente generables utilizando un conjunto de datos relativamente pequeño en condiciones de caja negra con clasificaciones de imágenes médicas basadas en DNN representativas. Las UAP de caja negra se pueden utilizar para llevar a cabo ataques no dirigidos y dirigidos. En general, las UAP de caja negra mostraron altas tasas de éxito de ataque (40-90%). Se observó la vulnerabilidad de las UAP de caja negra en varias arquitecturas de modelos. Los resultados indican que los adversarios también pueden generar UAP a través de un procedimiento simple en la condición de caja negra para sabotear o controlar sistemas de imágenes médicas de diagnóstico basados en DNN, y que las UAP son una amenaza de seguridad más seria.

Otros recursos que podrían interesarte

Temas Virtualpro