Un método de ataque adversarial contra objetos especificados basado en segmentación de instancias
Autores: Lang, Dapeng; Chen, Deyun; Li, Sizhao; He, Yongjun
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Un método de ataque adversarial contra objetos especificados basado en segmentación de instancias
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Modelo profundo
Ataque adversarial
Riesgos de seguridad
Generación de ejemplos adversariales
Segmentación semántica
Objetos de ataque
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
El modelo profundo se utiliza ampliamente y se ha demostrado que tiene más riesgos de seguridad ocultos. Un ataque adversarial puede eludir los medios de defensa tradicionales. Al modificar los datos de entrada, se realiza el ataque al modelo profundo, y es imperceptible para los humanos. Los métodos existentes de generación de ejemplos adversariales atacan principalmente toda la imagen. La dirección de optimización iterativa es fácil de predecir y la flexibilidad del ataque es baja. Para escenarios más complejos, este artículo propone un algoritmo de generación de ejemplos adversariales restringidos por el borde (Re-AEG) basado en segmentación semántica. El algoritmo puede atacar uno o más objetos específicos en la imagen de modo que el detector no pueda detectar los objetos. Primero, el algoritmo localiza automáticamente los objetos de ataque según los requisitos de la aplicación. A través del algoritmo de segmentación semántica, el objeto atacado se separa y se genera la matriz de máscara para el objeto. El algoritmo propuesto en este artículo puede atacar el objeto en la región, converger rápidamente y engañar con éxito al modelo de detección profunda. El algoritmo solo oculta algunos objetos sensibles en la imagen, en lugar de invalidar completamente el modelo de detección y causar errores reportados, por lo que tiene una mayor ocultación que los algoritmos anteriores de generación de ejemplos adversariales. En este artículo, se lleva a cabo un experimento comparativo en los conjuntos de datos ImageNet y coco2017, y la tasa de éxito del ataque es superior al 92%.
Descripción
El modelo profundo se utiliza ampliamente y se ha demostrado que tiene más riesgos de seguridad ocultos. Un ataque adversarial puede eludir los medios de defensa tradicionales. Al modificar los datos de entrada, se realiza el ataque al modelo profundo, y es imperceptible para los humanos. Los métodos existentes de generación de ejemplos adversariales atacan principalmente toda la imagen. La dirección de optimización iterativa es fácil de predecir y la flexibilidad del ataque es baja. Para escenarios más complejos, este artículo propone un algoritmo de generación de ejemplos adversariales restringidos por el borde (Re-AEG) basado en segmentación semántica. El algoritmo puede atacar uno o más objetos específicos en la imagen de modo que el detector no pueda detectar los objetos. Primero, el algoritmo localiza automáticamente los objetos de ataque según los requisitos de la aplicación. A través del algoritmo de segmentación semántica, el objeto atacado se separa y se genera la matriz de máscara para el objeto. El algoritmo propuesto en este artículo puede atacar el objeto en la región, converger rápidamente y engañar con éxito al modelo de detección profunda. El algoritmo solo oculta algunos objetos sensibles en la imagen, en lugar de invalidar completamente el modelo de detección y causar errores reportados, por lo que tiene una mayor ocultación que los algoritmos anteriores de generación de ejemplos adversariales. En este artículo, se lleva a cabo un experimento comparativo en los conjuntos de datos ImageNet y coco2017, y la tasa de éxito del ataque es superior al 92%.