logo móvil
Contáctanos

Mejorando la Robustez Adversarial de los Clasificadores de Imágenes de ODE Neurales al Ajustar el Parámetro de Tolerancia

Autores: Carrara, Fabio; Caldelli, Roberto; Falchi, Fabrizio; Amato, Giuseppe

Idioma: Inglés

Editor: MDPI

Año: 2022

Descargar PDF

Acceso abierto

Artículo científico
2022

Mejorando la Robustez Adversarial de los Clasificadores de Imágenes de ODE Neurales al Ajustar el Parámetro de Tolerancia


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Aprendizaje profundo
Ecuaciones diferenciales ordinarias neuronales
Robustez
Ataques adversariales
Parámetro de tolerancia
Estrategia de detección

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
La adopción de soluciones basadas en aprendizaje profundo prácticamente permea todas las diversas áreas de nuestra vida cotidiana, mostrando un rendimiento mejorado con respecto a otros sistemas clásicos. Dado que muchas aplicaciones manejan datos y procedimientos sensibles, siempre existe una fuerte demanda de conocer la fiabilidad real de tales tecnologías. Este trabajo analiza las características de robustez de un tipo específico de red neuronal profunda, la red de ecuaciones diferenciales ordinarias neuronales (N-ODE). Parecen muy interesantes por su efectividad y una propiedad peculiar basada en un parámetro ajustable en el momento de la prueba que permite obtener un equilibrio entre precisión y eficiencia. Además, ajustar dicho parámetro de tolerancia otorga robustez contra ataques adversariales. Notablemente, vale la pena destacar cómo desacoplar los valores de dicha tolerancia entre el entrenamiento y el momento de la prueba puede reducir fuertemente la tasa de éxito de los ataques. Sobre esta base, mostramos cómo se puede adoptar tal tolerancia, durante la fase de predicción, para mejorar la robustez de N-ODE frente a ataques adversariales. En particular, demostramos cómo podemos aprovechar esta propiedad para construir una estrategia de detección efectiva y aumentar las posibilidades de identificar ejemplos adversariales en un escenario de ataque de conocimiento no cero. Nuestra evaluación experimental involucró dos estándares de referencia de clasificación de imágenes. Esto mostró que la técnica de detección propuesta proporciona un alto rechazo de ejemplos adversariales mientras mantiene la mayoría de las muestras prístinas.

Otros recursos que podrían interesarte

Temas Virtualpro