Detección de ataque adversario en tiempo real con Deep Image Prior inicializado como una red de difuminación basada en representación de alto nivel
Autores: Sutanto, Richard Evan; Lee, Sukho
Idioma: Inglés
Editor: MDPI
Año: 2020
Acceso abierto
Artículo científico
2020
Detección de ataque adversario en tiempo real con Deep Image Prior inicializado como una red de difuminación basada en representación de alto nivel
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Estudios
Inteligencia artificial
Ejemplos adversarios
Ataques
Métodos de defensa
Red neuronal
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 37
Citaciones: Sin citaciones
Varios estudios recientes han demostrado que los sistemas de inteligencia artificial (IA) pueden fallar debido a datos manipulados intencionalmente que llegan a través de canales normales. Este tipo de datos manipulados se llaman ejemplos adversarios. Los ejemplos adversarios pueden representar una gran amenaza para una sociedad liderada por IA cuando un atacante los utiliza como medio para atacar un sistema de IA, lo cual se llama un ataque adversario. Por lo tanto, importantes empresas de tecnología de la información como Google están estudiando formas de construir sistemas de IA que sean robustos contra ataques adversarios mediante el desarrollo de métodos de defensa efectivos. Sin embargo, una de las razones por las que es difícil establecer un sistema de defensa efectivo es debido al hecho de que es difícil saber de antemano qué tipo de método de ataque adversario está utilizando el oponente. Por lo tanto, en este documento, proponemos un método para detectar el ruido adversario sin conocer el tipo de ruido adversario utilizado por el atacante. Con este fin, proponemos una red de desenfoque que se entrena solo con imágenes normales y también la utilizamos como condición inicial de la red Deep Image Prior (DIP). Esto contrasta con otros métodos de detección basados en redes neuronales, que requieren el uso de muchas imágenes ruidosas adversarias para el entrenamiento de la red neuronal. Los resultados experimentales indican la validez del método propuesto.
Descripción
Varios estudios recientes han demostrado que los sistemas de inteligencia artificial (IA) pueden fallar debido a datos manipulados intencionalmente que llegan a través de canales normales. Este tipo de datos manipulados se llaman ejemplos adversarios. Los ejemplos adversarios pueden representar una gran amenaza para una sociedad liderada por IA cuando un atacante los utiliza como medio para atacar un sistema de IA, lo cual se llama un ataque adversario. Por lo tanto, importantes empresas de tecnología de la información como Google están estudiando formas de construir sistemas de IA que sean robustos contra ataques adversarios mediante el desarrollo de métodos de defensa efectivos. Sin embargo, una de las razones por las que es difícil establecer un sistema de defensa efectivo es debido al hecho de que es difícil saber de antemano qué tipo de método de ataque adversario está utilizando el oponente. Por lo tanto, en este documento, proponemos un método para detectar el ruido adversario sin conocer el tipo de ruido adversario utilizado por el atacante. Con este fin, proponemos una red de desenfoque que se entrena solo con imágenes normales y también la utilizamos como condición inicial de la red Deep Image Prior (DIP). Esto contrasta con otros métodos de detección basados en redes neuronales, que requieren el uso de muchas imágenes ruidosas adversarias para el entrenamiento de la red neuronal. Los resultados experimentales indican la validez del método propuesto.