Redes Neuronales de Grafos No Muestradas Eficientes
Autores: Ji, Jianchao; Li, Zelong; Xu, Shuyuan; Ge, Yingqiang; Tan, Juntao; Zhang, Yongfeng
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Redes Neuronales de Grafos No Muestradas Eficientes
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Gráfico
Red neuronal
Muestreo negativo
Nodos
Objetivo de aprendizaje
Eficiencia
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Un grafo es una estructura de datos ampliamente utilizada y efectiva en muchas aplicaciones; describe las relaciones entre nodos o entidades. Actualmente, la mayoría de los modelos de redes neuronales gráficas semi-supervisadas o no supervisadas se entrenan basándose en una operación muy básica llamada muestreo negativo. Por lo general, el objetivo del aprendizaje es maximizar la similitud entre nodos vecinos mientras se minimiza la similitud entre nodos que no están cerca unos de otros. El muestreo negativo puede reducir la complejidad temporal al muestrear una pequeña fracción de los nodos negativos en lugar de utilizar todos los nodos negativos al optimizar el objetivo. Sin embargo, el muestreo de los nodos negativos puede no lograr un rendimiento estable del modelo debido a la incertidumbre en el procedimiento de muestreo. Para evitar tales desventajas, proporcionamos un marco eficiente de Red Neuronal Gráfica Sin Muestreo (NS-GNN). La idea principal es utilizar todas las muestras negativas al optimizar el objetivo de aprendizaje para evitar el proceso de muestreo. Por supuesto, utilizar directamente todas las muestras negativas puede causar un gran aumento en el tiempo de entrenamiento del modelo. Para mitigar este problema, reorganizamos la función de pérdida original en una forma lineal y aprovechamos una meticulosa derivación matemática para reducir la complejidad de la función de pérdida. Los experimentos en conjuntos de datos de referencia muestran que nuestro marco puede proporcionar mejor eficiencia al mismo nivel de precisión en las predicciones en comparación con los modelos existentes basados en muestreo negativo.
Descripción
Un grafo es una estructura de datos ampliamente utilizada y efectiva en muchas aplicaciones; describe las relaciones entre nodos o entidades. Actualmente, la mayoría de los modelos de redes neuronales gráficas semi-supervisadas o no supervisadas se entrenan basándose en una operación muy básica llamada muestreo negativo. Por lo general, el objetivo del aprendizaje es maximizar la similitud entre nodos vecinos mientras se minimiza la similitud entre nodos que no están cerca unos de otros. El muestreo negativo puede reducir la complejidad temporal al muestrear una pequeña fracción de los nodos negativos en lugar de utilizar todos los nodos negativos al optimizar el objetivo. Sin embargo, el muestreo de los nodos negativos puede no lograr un rendimiento estable del modelo debido a la incertidumbre en el procedimiento de muestreo. Para evitar tales desventajas, proporcionamos un marco eficiente de Red Neuronal Gráfica Sin Muestreo (NS-GNN). La idea principal es utilizar todas las muestras negativas al optimizar el objetivo de aprendizaje para evitar el proceso de muestreo. Por supuesto, utilizar directamente todas las muestras negativas puede causar un gran aumento en el tiempo de entrenamiento del modelo. Para mitigar este problema, reorganizamos la función de pérdida original en una forma lineal y aprovechamos una meticulosa derivación matemática para reducir la complejidad de la función de pérdida. Los experimentos en conjuntos de datos de referencia muestran que nuestro marco puede proporcionar mejor eficiencia al mismo nivel de precisión en las predicciones en comparación con los modelos existentes basados en muestreo negativo.