logo móvil
Contáctanos

TxAI-ADV: confiable XAI para defender modelos de IA contra ataques adversarios en CIoT realista

Autores: Ojo, Stephen; Krichen, Moez; Alamro, Meznah A.; Mihoub, Alaeddine

Idioma: Inglés

Editor: MDPI

Año: 2024

Descargar PDF

Acceso abierto

Artículo científico
2024

TxAI-ADV: confiable XAI para defender modelos de IA contra ataques adversarios en CIoT realista


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería Eléctrica y Electrónica

Palabras clave

Ataques adversariales
Internet de las cosas para el consumidor
Aprendizaje automático
Inteligencia artificial explicativa
Aprendizaje profundo
Conjunto de datos

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 44

Citaciones: Sin citaciones


Descripción
Los ataques adversarios son más frecuentes en dispositivos de Internet de las Cosas para Consumidores (CIoT) (es decir, dispositivos domésticos inteligentes, cámaras, actuadores, sensores y microcontroladores) debido a su creciente integración en las actividades diarias, lo que llama la atención sobre sus posibles deficiencias y utilidad. Mantener la protección en el CIoT y contrarrestar los riesgos emergentes requiere actualizaciones constantes y monitoreo de estos dispositivos. El aprendizaje automático (ML), en combinación con la Inteligencia Artificial Explicable (XAI), se ha convertido en un componente esencial del ecosistema CIoT debido a su rápido avance e impresionantes resultados en varios dominios de aplicación para la detección, prevención, mitigación de ataques y proporcionar explicaciones de tales decisiones. Estos ataques explotan y roban datos sensibles, interrumpen la funcionalidad de los dispositivos o obtienen acceso no autorizado a redes conectadas. Esta investigación genera un conjunto de datos novedoso mediante la inyección de ataques adversarios en el conjunto de datos CICIoT2023. Presenta un enfoque de detección de ataques adversarios que utiliza aprendizaje profundo (Perceptrón Multicapa (MLP) y Red Neuronal Profunda (DNN)) y clasificadores de aprendizaje automático (Vecino más Cercano (KNN), Clasificador de Vector de Soporte (SVC), Bayes Ingenuo Gaussiano (GNB), votación de conjunto y Clasificador Meta) para detectar ataques y evitar tales situaciones rápidamente en un CIoT. Este estudio utilizó técnicas de Explicaciones Aditivas de Shapley (SHAP), una técnica XAI, para analizar el impacto promedio de cada característica de clase en los modelos propuestos y seleccionar características óptimas para el conjunto de datos de ataques adversarios. Los resultados revelaron que, con una tasa de precisión del 96%, el enfoque propuesto detecta efectivamente ataques adversarios en un CIoT.

Otros recursos que podrían interesarte

Temas Virtualpro