Efsattack: ataque de caja negra restringido por ruido de borde utilizando el algoritmo de enjambre de peces artificiales
Autores: Gao, Jiaqi; Zheng, Kangfeng; Wang, Xiujuan; Wu, Chunhua; Wu, Bin
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Efsattack: ataque de caja negra restringido por ruido de borde utilizando el algoritmo de enjambre de peces artificiales
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Ataques de caja negra
Ejemplos adversarios
Consultas
Perturbaciones
Sigilo
Algoritmo de enjambre de peces artificiales
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 36
Citaciones: Sin citaciones
Los ataques de caja negra generan ejemplos adversarios al consultar el modelo objetivo y actualizar el ruido según la retroalimentación. Sin embargo, los métodos actuales de ataque de caja negra requieren consultas excesivas para generar ejemplos adversarios, aumentando el riesgo de detección por parte de los sistemas de defensa objetivo. Además, los métodos actuales de ataque de caja negra se centran principalmente en controlar la magnitud de las perturbaciones mientras descuidan el impacto de la ubicación de las perturbaciones en la sigilosidad de los ejemplos adversarios. Con este fin, proponemos un nuevo método de ataque de caja negra con restricción de ruido en los bordes utilizando el algoritmo del enjambre de peces artificiales (EFSAttack). EFSAttack introduce el concepto de restricción de ruido en los bordes para indicar la región de baja frecuencia de la imagen donde se agregan las perturbaciones y emplea esta restricción para mejorar la inicialización de la población y el proceso de evolución de la población. Los experimentos en CIFAR-10 y MNIST muestran mejoras notables en las tasas de éxito, eficiencia de consulta e invisibilidad de los ejemplos adversarios.
Descripción
Los ataques de caja negra generan ejemplos adversarios al consultar el modelo objetivo y actualizar el ruido según la retroalimentación. Sin embargo, los métodos actuales de ataque de caja negra requieren consultas excesivas para generar ejemplos adversarios, aumentando el riesgo de detección por parte de los sistemas de defensa objetivo. Además, los métodos actuales de ataque de caja negra se centran principalmente en controlar la magnitud de las perturbaciones mientras descuidan el impacto de la ubicación de las perturbaciones en la sigilosidad de los ejemplos adversarios. Con este fin, proponemos un nuevo método de ataque de caja negra con restricción de ruido en los bordes utilizando el algoritmo del enjambre de peces artificiales (EFSAttack). EFSAttack introduce el concepto de restricción de ruido en los bordes para indicar la región de baja frecuencia de la imagen donde se agregan las perturbaciones y emplea esta restricción para mejorar la inicialización de la población y el proceso de evolución de la población. Los experimentos en CIFAR-10 y MNIST muestran mejoras notables en las tasas de éxito, eficiencia de consulta e invisibilidad de los ejemplos adversarios.