logo móvil
Contáctanos

Redes neuronales gaussianas separables: estructura, análisis y aproximaciones de funciones

Autores: Xing, Siyuan; Sun, Jian-Qiao

Idioma: Inglés

Editor: MDPI

Año: 2023

Descargar PDF

Acceso abierto

Artículo científico
2023

Redes neuronales gaussianas separables: estructura, análisis y aproximaciones de funciones


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería de Software

Palabras clave

Gaussiano
Función de base radial
Red neuronal
Alimentación hacia adelante
Separable
Gaussiano
Univariado
Matriz Hessiana
Descenso de gradiente
Aproximación
Precisión
Velocidad computacional
Dimensión
Interpolación
Clasificación
Entrenamiento
Fácil de ajustar

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 74

Citaciones: Sin citaciones


Descripción
La red neuronal de función de base radial gaussiana (GRBFNN) ha sido una opción popular para la interpolación y clasificación. Sin embargo, es intensiva computacionalmente cuando la dimensión del vector de entrada es alta. Para abordar este problema, proponemos una nueva red neuronal gaussiana separable de tipo feedforward (SGNN) aprovechando la propiedad separable de las funciones de base radial gaussiana, que divide los datos de entrada en múltiples columnas y los alimenta secuencialmente en capas paralelas formadas por funciones gaussianas univariadas. Esta estructura reduce el número de neuronas de GRBFNN a , lo que mejora exponencialmente la velocidad computacional de SGNN y hace que escale linealmente a medida que aumenta la dimensión de entrada. Además, SGNN puede conservar el subespacio dominante de la matriz Hessiana de GRBFNN en el entrenamiento por descenso de gradiente, lo que conduce a un nivel similar de precisión que GRBFNN. Se demuestra experimentalmente que SGNN puede lograr una aceleración de 100 veces con un nivel similar de precisión en aproximaciones de funciones trivariadas en comparación con GRBFNN. SGNN también tiene una mejor capacidad de entrenamiento y es más fácil de ajustar que las DNN con funciones RuLU y Sigmoid. Para aproximar funciones con una geometría compleja, SGNN puede producir resultados tres órdenes de magnitud más precisos que los de una RuLU-DNN con el doble de capas y el número de neuronas por capa.

Otros recursos que podrían interesarte

Temas Virtualpro