Un nuevo método de detección adversarial para sistemas de visión de UAV a través de mapas de atribución
Autores: Zhang, Zhun; Liu, Qihe; Wu, Chunjiang; Zhou, Shijie; Yan, Zhangbao
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Un nuevo método de detección adversarial para sistemas de visión de UAV a través de mapas de atribución
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Robótica
Palabras clave
Vehículos aéreos no tripulados
Internet de las Cosas
Ataques de ejemplos adversariales
Sistemas de visión de aprendizaje profundo
Sistemas de visión de UAV
Mapas de atribución
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Con el rápido avance de los vehículos aéreos no tripulados (VANT) y el Internet de las Cosas (IoT), los IoT asistidos por VANT se han vuelto integrales en áreas como el monitoreo de la vida silvestre, la vigilancia de desastres y las operaciones de búsqueda y rescate. Sin embargo, estudios recientes han demostrado que estos sistemas son vulnerables a ataques de ejemplos adversariales durante la recolección y transmisión de datos. Estos ataques alteran sutilmente los datos de entrada para engañar a los sistemas de visión de aprendizaje profundo basados en VANT, comprometiendo significativamente la fiabilidad y seguridad de los sistemas IoT. En consecuencia, se han desarrollado varios métodos para identificar ejemplos adversariales dentro de las entradas del modelo, pero a menudo carecen de precisión contra ataques complejos como C&W y otros. Inspirándonos en la tecnología de visualización de modelos, observamos que las perturbaciones adversariales alteran notablemente los mapas de atribución de ejemplos limpios. Este artículo presenta un nuevo método de detección efectivo para sistemas de visión de VANT que utiliza mapas de atribución creados por técnicas de visualización de modelos. El método diferencia entre ejemplos genuinos y adversariales extrayendo sus mapas de atribución únicos y luego entrenando un clasificador en estos mapas. Los experimentos de validación en el conjunto de datos ImageNet mostraron que nuestro método logra una precisión promedio de detección del 99.58%, superando los métodos más avanzados.
Descripción
Con el rápido avance de los vehículos aéreos no tripulados (VANT) y el Internet de las Cosas (IoT), los IoT asistidos por VANT se han vuelto integrales en áreas como el monitoreo de la vida silvestre, la vigilancia de desastres y las operaciones de búsqueda y rescate. Sin embargo, estudios recientes han demostrado que estos sistemas son vulnerables a ataques de ejemplos adversariales durante la recolección y transmisión de datos. Estos ataques alteran sutilmente los datos de entrada para engañar a los sistemas de visión de aprendizaje profundo basados en VANT, comprometiendo significativamente la fiabilidad y seguridad de los sistemas IoT. En consecuencia, se han desarrollado varios métodos para identificar ejemplos adversariales dentro de las entradas del modelo, pero a menudo carecen de precisión contra ataques complejos como C&W y otros. Inspirándonos en la tecnología de visualización de modelos, observamos que las perturbaciones adversariales alteran notablemente los mapas de atribución de ejemplos limpios. Este artículo presenta un nuevo método de detección efectivo para sistemas de visión de VANT que utiliza mapas de atribución creados por técnicas de visualización de modelos. El método diferencia entre ejemplos genuinos y adversariales extrayendo sus mapas de atribución únicos y luego entrenando un clasificador en estos mapas. Los experimentos de validación en el conjunto de datos ImageNet mostraron que nuestro método logra una precisión promedio de detección del 99.58%, superando los métodos más avanzados.