Ataque adversario de caja blanca basado en programación dinámica para redes neuronales profundas
Autores: Aggarwal, Swati; Mittal, Anshul; Aggarwal, Sanchit; Singh, Anshul Kumar
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Ataque adversario de caja blanca basado en programación dinámica para redes neuronales profundas
Categoría
Ingeniería y Tecnología
Subcategoría
Inteligencia Artificial
Palabras clave
Estudios
Vulnerabilidades
Redes neuronales
Ataque adversario
Programación dinámica
Puntuación de píxeles
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 24
Citaciones: Sin citaciones
Estudios recientes han expuesto las vulnerabilidades de las redes neuronales profundas ante datos de entrada cuidadosamente perturbados. Proponemos un nuevo ataque adversarial de caja blanca no dirigido, el método de puntuación de subpíxeles basado en programación dinámica (SPSM) (DPSPSM), que es una variación del enfoque adversarial de caja blanca basado en gradientes tradicional limitado por una distancia de hamming fija utilizando una estructura basada en programación dinámica. Está estimulado utilizando una técnica métrica de puntuación de píxeles, el SPSM, que se introduce en este documento. En contraste con los ataques adversariales convencionales basados en gradientes, que alteran imágenes enteras casi imperceptiblemente, el DPSPSM es rápido y ofrece la robustez de manipular solo un pequeño número de píxeles de entrada. El algoritmo presentado cuantifica la actualización del gradiente con una puntuación generada para cada píxel, incorporando contribuciones de cada canal. Los resultados muestran que el DPSPSM engaña al modelo con una tasa de éxito del 30.45% en el conjunto de pruebas CIFAR-10 y del 29.30% en el conjunto de pruebas CIFAR-100.
Descripción
Estudios recientes han expuesto las vulnerabilidades de las redes neuronales profundas ante datos de entrada cuidadosamente perturbados. Proponemos un nuevo ataque adversarial de caja blanca no dirigido, el método de puntuación de subpíxeles basado en programación dinámica (SPSM) (DPSPSM), que es una variación del enfoque adversarial de caja blanca basado en gradientes tradicional limitado por una distancia de hamming fija utilizando una estructura basada en programación dinámica. Está estimulado utilizando una técnica métrica de puntuación de píxeles, el SPSM, que se introduce en este documento. En contraste con los ataques adversariales convencionales basados en gradientes, que alteran imágenes enteras casi imperceptiblemente, el DPSPSM es rápido y ofrece la robustez de manipular solo un pequeño número de píxeles de entrada. El algoritmo presentado cuantifica la actualización del gradiente con una puntuación generada para cada píxel, incorporando contribuciones de cada canal. Los resultados muestran que el DPSPSM engaña al modelo con una tasa de éxito del 30.45% en el conjunto de pruebas CIFAR-10 y del 29.30% en el conjunto de pruebas CIFAR-100.