logo móvil
Contáctanos

Detección de ataque adversario en tiempo real con Deep Image Prior inicializado como una red de difuminación basada en representación de alto nivel

Autores: Sutanto, Richard Evan; Lee, Sukho

Idioma: Inglés

Editor: MDPI

Año: 2020

Descargar PDF

Acceso abierto

Artículo científico
2020

Detección de ataque adversario en tiempo real con Deep Image Prior inicializado como una red de difuminación basada en representación de alto nivel


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería Eléctrica y Electrónica

Palabras clave

Estudios
Inteligencia artificial
Ejemplos adversarios
Ataques
Métodos de defensa
Red neuronal

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 37

Citaciones: Sin citaciones


Descripción
Varios estudios recientes han demostrado que los sistemas de inteligencia artificial (IA) pueden fallar debido a datos manipulados intencionalmente que llegan a través de canales normales. Este tipo de datos manipulados se llaman ejemplos adversarios. Los ejemplos adversarios pueden representar una gran amenaza para una sociedad liderada por IA cuando un atacante los utiliza como medio para atacar un sistema de IA, lo cual se llama un ataque adversario. Por lo tanto, importantes empresas de tecnología de la información como Google están estudiando formas de construir sistemas de IA que sean robustos contra ataques adversarios mediante el desarrollo de métodos de defensa efectivos. Sin embargo, una de las razones por las que es difícil establecer un sistema de defensa efectivo es debido al hecho de que es difícil saber de antemano qué tipo de método de ataque adversario está utilizando el oponente. Por lo tanto, en este documento, proponemos un método para detectar el ruido adversario sin conocer el tipo de ruido adversario utilizado por el atacante. Con este fin, proponemos una red de desenfoque que se entrena solo con imágenes normales y también la utilizamos como condición inicial de la red Deep Image Prior (DIP). Esto contrasta con otros métodos de detección basados en redes neuronales, que requieren el uso de muchas imágenes ruidosas adversarias para el entrenamiento de la red neuronal. Los resultados experimentales indican la validez del método propuesto.

Otros recursos que podrían interesarte

Temas Virtualpro