Mejorando la Robustez Adversarial de los Clasificadores de Imágenes de ODE Neurales al Ajustar el Parámetro de Tolerancia
Autores: Carrara, Fabio; Caldelli, Roberto; Falchi, Fabrizio; Amato, Giuseppe
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Mejorando la Robustez Adversarial de los Clasificadores de Imágenes de ODE Neurales al Ajustar el Parámetro de Tolerancia
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Aprendizaje profundo
Ecuaciones diferenciales ordinarias neuronales
Robustez
Ataques adversariales
Parámetro de tolerancia
Estrategia de detección
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
La adopción de soluciones basadas en aprendizaje profundo prácticamente permea todas las diversas áreas de nuestra vida cotidiana, mostrando un rendimiento mejorado con respecto a otros sistemas clásicos. Dado que muchas aplicaciones manejan datos y procedimientos sensibles, siempre existe una fuerte demanda de conocer la fiabilidad real de tales tecnologías. Este trabajo analiza las características de robustez de un tipo específico de red neuronal profunda, la red de ecuaciones diferenciales ordinarias neuronales (N-ODE). Parecen muy interesantes por su efectividad y una propiedad peculiar basada en un parámetro ajustable en el momento de la prueba que permite obtener un equilibrio entre precisión y eficiencia. Además, ajustar dicho parámetro de tolerancia otorga robustez contra ataques adversariales. Notablemente, vale la pena destacar cómo desacoplar los valores de dicha tolerancia entre el entrenamiento y el momento de la prueba puede reducir fuertemente la tasa de éxito de los ataques. Sobre esta base, mostramos cómo se puede adoptar tal tolerancia, durante la fase de predicción, para mejorar la robustez de N-ODE frente a ataques adversariales. En particular, demostramos cómo podemos aprovechar esta propiedad para construir una estrategia de detección efectiva y aumentar las posibilidades de identificar ejemplos adversariales en un escenario de ataque de conocimiento no cero. Nuestra evaluación experimental involucró dos estándares de referencia de clasificación de imágenes. Esto mostró que la técnica de detección propuesta proporciona un alto rechazo de ejemplos adversariales mientras mantiene la mayoría de las muestras prístinas.
Descripción
La adopción de soluciones basadas en aprendizaje profundo prácticamente permea todas las diversas áreas de nuestra vida cotidiana, mostrando un rendimiento mejorado con respecto a otros sistemas clásicos. Dado que muchas aplicaciones manejan datos y procedimientos sensibles, siempre existe una fuerte demanda de conocer la fiabilidad real de tales tecnologías. Este trabajo analiza las características de robustez de un tipo específico de red neuronal profunda, la red de ecuaciones diferenciales ordinarias neuronales (N-ODE). Parecen muy interesantes por su efectividad y una propiedad peculiar basada en un parámetro ajustable en el momento de la prueba que permite obtener un equilibrio entre precisión y eficiencia. Además, ajustar dicho parámetro de tolerancia otorga robustez contra ataques adversariales. Notablemente, vale la pena destacar cómo desacoplar los valores de dicha tolerancia entre el entrenamiento y el momento de la prueba puede reducir fuertemente la tasa de éxito de los ataques. Sobre esta base, mostramos cómo se puede adoptar tal tolerancia, durante la fase de predicción, para mejorar la robustez de N-ODE frente a ataques adversariales. En particular, demostramos cómo podemos aprovechar esta propiedad para construir una estrategia de detección efectiva y aumentar las posibilidades de identificar ejemplos adversariales en un escenario de ataque de conocimiento no cero. Nuestra evaluación experimental involucró dos estándares de referencia de clasificación de imágenes. Esto mostró que la técnica de detección propuesta proporciona un alto rechazo de ejemplos adversariales mientras mantiene la mayoría de las muestras prístinas.