logo móvil
Contáctanos

Risopa: ataques de un píxel rápidos, imperceptibles y fuertes en redes neuronales profundas

Autores: Nam, Wonhong; Kim, Kunha; Moon, Hyunwoo; Noh, Hyeongmin; Park, Jiyeon; Kil, Hyunyoung

Idioma: Inglés

Editor: MDPI

Año: 2024

Descargar PDF

Acceso abierto

Artículo científico
2024

Risopa: ataques de un píxel rápidos, imperceptibles y fuertes en redes neuronales profundas


Categoría

Matemáticas

Subcategoría

Matemáticas generales

Palabras clave

Investigación
Modelos de redes neuronales
Ejemplos adversarios
Técnicas de aprendizaje automático
Ataques de un píxel
Evolución diferencial

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 20

Citaciones: Sin citaciones


Descripción
Investigaciones recientes han revelado que perturbaciones sutiles e imperceptibles pueden engañar a modelos de redes neuronales bien entrenados, lo que lleva a resultados inexactos. Estas instancias, conocidas como ejemplos adversarios, representan amenazas significativas para la aplicación segura de técnicas de aprendizaje automático en sistemas críticos de seguridad. En este artículo, nos adentramos en el estudio de los ataques de un píxel en redes neuronales profundas, recientemente reportados como un tipo de ejemplos adversarios. Para identificar tales ataques de un píxel, la mayoría de las metodologías existentes dependen del método de evolución diferencial, que utiliza la selección aleatoria de la población actual para escapar de los óptimos locales. Sin embargo, la técnica de evolución diferencial podría desperdiciar tiempo de búsqueda y pasar por alto buenas soluciones si el número de iteraciones es insuficiente. Por lo tanto, en este artículo, proponemos un enfoque de ascenso de gradiente con momento para descubrir eficientemente buenas soluciones para el problema de ataque de un píxel. Dado que nuestro método toma una ruta más directa hacia el objetivo en comparación con los métodos existentes que dependen de caminatas aleatorias ciegas, puede identificar efectivamente ataques de un píxel. Nuestros experimentos realizados en CNN populares demuestran que, en comparación con las metodologías existentes, nuestra técnica puede detectar ataques de un píxel significativamente más rápido.

Otros recursos que podrían interesarte

Temas Virtualpro