Redes neuronales gráficas robustas a través del aprendizaje en conjunto
Autores: Lin, Qi; Yu, Shuo; Sun, Ke; Zhao, Wenhong; Alfarraj, Osama; Tolba, Amr; Xia, Feng
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Redes neuronales gráficas robustas a través del aprendizaje en conjunto
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Redes neuronales gráficas
GNNs
Modelo de conjunto
Problemas de no robustez
Paso de conocimiento
Propagación de DropNode
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 31
Citaciones: Sin citaciones
Las redes neuronales gráficas (GNNs) han demostrado una notable capacidad en la tarea de clasificación de nodos semi-supervisada. Sin embargo, la mayoría de las GNNs existentes sufren de problemas de no robustez, lo que plantea un gran desafío para aplicar las GNNs en escenarios sensibles. Algunos investigadores se concentran en construir un modelo de conjunto para mitigar los problemas de no robustez. Sin embargo, estos métodos ignoran la interacción entre los modelos base, lo que lleva a representaciones gráficas similares. Además, debido a la propagación determinista aplicada en la mayoría de las GNNs existentes, cada nodo depende en gran medida de sus vecinos, lo que hace que los nodos sean sensibles a las perturbaciones. Por lo tanto, en este documento, proponemos un nuevo marco de aprendizaje de conjunto de gráficos basado en el paso de conocimiento (llamado GEL) para abordar los problemas mencionados anteriormente. Con el fin de lograr interacción, consideramos las predicciones de los modelos anteriores como conocimiento para obtener predicciones más confiables. Además, diseñamos una estrategia de propagación DropNode de múltiples capas para reducir la dependencia de cada nodo en vecinos particulares. Esta estrategia también permite a cada nodo agregar información de diversos vecinos, aliviando los problemas de suavizado excesivo. Realizamos experimentos en tres conjuntos de datos de referencia, incluidos Cora, Citeseer y Pubmed. GEL supera a GCN en más del 5% en términos de precisión en los tres conjuntos de datos y también se desempeña mejor que otras líneas de base de última generación. Los extensos resultados experimentales también muestran que GEL alivia los problemas de no robustez y suavizado excesivo.
Descripción
Las redes neuronales gráficas (GNNs) han demostrado una notable capacidad en la tarea de clasificación de nodos semi-supervisada. Sin embargo, la mayoría de las GNNs existentes sufren de problemas de no robustez, lo que plantea un gran desafío para aplicar las GNNs en escenarios sensibles. Algunos investigadores se concentran en construir un modelo de conjunto para mitigar los problemas de no robustez. Sin embargo, estos métodos ignoran la interacción entre los modelos base, lo que lleva a representaciones gráficas similares. Además, debido a la propagación determinista aplicada en la mayoría de las GNNs existentes, cada nodo depende en gran medida de sus vecinos, lo que hace que los nodos sean sensibles a las perturbaciones. Por lo tanto, en este documento, proponemos un nuevo marco de aprendizaje de conjunto de gráficos basado en el paso de conocimiento (llamado GEL) para abordar los problemas mencionados anteriormente. Con el fin de lograr interacción, consideramos las predicciones de los modelos anteriores como conocimiento para obtener predicciones más confiables. Además, diseñamos una estrategia de propagación DropNode de múltiples capas para reducir la dependencia de cada nodo en vecinos particulares. Esta estrategia también permite a cada nodo agregar información de diversos vecinos, aliviando los problemas de suavizado excesivo. Realizamos experimentos en tres conjuntos de datos de referencia, incluidos Cora, Citeseer y Pubmed. GEL supera a GCN en más del 5% en términos de precisión en los tres conjuntos de datos y también se desempeña mejor que otras líneas de base de última generación. Los extensos resultados experimentales también muestran que GEL alivia los problemas de no robustez y suavizado excesivo.