logo móvil
Contáctanos

Un marco de entrenamiento seguro de GNN para gráficos parcialmente observables

Autores: An, Dongdong; Yang, Yi; Liu, Wenyan; Zhao, Qin; Liu, Jing; Qi, Hongda; Lian, Jie

Idioma: Inglés

Editor: MDPI

Año: 2024

Descargar PDF

Acceso abierto

Artículo científico
2024

Un marco de entrenamiento seguro de GNN para gráficos parcialmente observables


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería Eléctrica y Electrónica

Palabras clave

Redes neuronales gráficas
Ataques de inyección adversaria
Integridad del modelo
Riesgos de seguridad
Estrategia de entrenamiento segura
Aprendizaje por refuerzo

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 43

Citaciones: Sin citaciones


Descripción
Las Redes Neuronales de Grafos (GNNs) son susceptibles a ataques de inyección adversarial, comprometiendo potencialmente la integridad del modelo, reduciendo la precisión y planteando riesgos de seguridad. Sin embargo, la mayoría de las contramedidas actuales se centran en mejorar la robustez de las GNNs en lugar de abordar directamente estos ataques específicos. El desafío radica en la dificultad de proteger todos los nodos en el grafo completo y en la falta de conocimiento de los atacantes. Por lo tanto, proponemos una estrategia de entrenamiento segura para las GNNs que contrarresta la vulnerabilidad a los ataques de inyección adversarial y supera el obstáculo de la observabilidad parcial en los mecanismos de defensa existentes, donde los defensores solo son conscientes de la estructura del grafo después del ataque y los atributos de los nodos, sin la identificación de nodos comprometidos. Nuestra estrategia no solo protege nodos específicos, sino que también extiende la seguridad a todos los nodos en el grafo. Modelamos los problemas de seguridad del grafo como un Proceso de Decisión de Markov Parcialmente Observable (POMDP) y utilizamos Memoria Convolucional de Grafos (GCM) para transformar las observaciones de un POMDP en estados con memoria temporal, procediendo a utilizar el aprendizaje por refuerzo para resolver la estrategia defensiva óptima. Finalmente, evitamos el aprendizaje de nodos maliciosos limitando el alcance convolucional, defendiéndonos así contra ataques de inyección adversarial. Nuestro método de defensa se evalúa en cinco conjuntos de datos, logrando un rango de precisión del 74% al 86.7%, lo que representa una mejora de aproximadamente 5.09% a 100.26% sobre las precisiones después del ataque. En comparación con varios modelos experimentales tradicionales, nuestro método muestra una mejora en la precisión que va desde 0.82% hasta 100.26%.

Otros recursos que podrían interesarte

Temas Virtualpro