logo móvil
Contáctanos

Un método de detección de muestras adversarias de discurso basado en aprendizaje de variedades

Autores: Ma, Xiao; Xu, Dongliang; Yang, Chenglin; Li, Panpan; Li, Dong

Idioma: Inglés

Editor: MDPI

Año: 2024

Descargar PDF

Acceso abierto

Artículo científico
2024

Un método de detección de muestras adversarias de discurso basado en aprendizaje de variedades


Categoría

Matemáticas

Subcategoría

Matemáticas generales

Palabras clave

Aprendizaje profundo
Muestras adversarias
Robustez del modelo
Métodos de detección
Tecnología de aprendizaje de variedades
Ataques adversarios

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 32

Citaciones: Sin citaciones


Descripción
Los modelos basados en aprendizaje profundo han logrado resultados impresionantes en varios campos prácticos. Sin embargo, estos modelos son susceptibles a ataques. La investigación reciente ha demostrado que las muestras adversariales pueden disminuir significativamente la precisión de los modelos de aprendizaje profundo. Esta susceptibilidad plantea desafíos considerables para su uso en aplicaciones de seguridad. Se han desarrollado varios métodos para mejorar la robustez del modelo mediante el entrenamiento con ejemplos adversariales más efectivos y generalizados. Sin embargo, estos enfoques tienden a comprometer la precisión del modelo. Los métodos de detección actualmente propuestos se centran principalmente en muestras adversariales de voz generadas por modelos de ataque de caja blanca especificados. En este estudio, aprovechando la tecnología de aprendizaje de variedades, se propone un método para detectar si una entrada de voz es una muestra adversarial antes de alimentarla en el modelo de reconocimiento. El método está diseñado para detectar muestras adversariales de voz generadas por modelos de ataque de caja negra y logra una tasa de éxito de detección del 84.73%. Identifica la variedad de baja dimensión de las muestras de entrenamiento y mide la distancia de una muestra en investigación a esta variedad para determinar su naturaleza adversarial. Esta técnica permite la detección de preprocesamiento de muestras de audio adversariales antes de su introducción en el modelo de aprendizaje profundo, evitando así los ataques adversariales sin afectar la robustez del modelo.

Otros recursos que podrían interesarte

Temas Virtualpro