Encontrando la topología óptima de una red neuronal aproximada
Autores: Yotov, Kostadin; Hadzhikolev, Emil; Hadzhikoleva, Stanka; Cheresharov, Stoyan
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Encontrando la topología óptima de una red neuronal aproximada
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Investigadores
Red neuronal
Configuración
Entrenamiento
Prueba
Parámetros
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 23
Citaciones: Sin citaciones
Un gran número de investigadores dedican mucho tiempo a buscar la red neuronal más eficiente para resolver un problema dado. El procedimiento de configuración, entrenamiento, prueba y comparación del rendimiento esperado se aplica a cada red neuronal experimental. Los parámetros de configuración: métodos de entrenamiento, funciones de transferencia, número de capas ocultas, número de neuronas, número de épocas y error tolerable tienen múltiples valores posibles. Establecer pautas para los valores adecuados de los parámetros acortaría el tiempo necesario para crear una red neuronal eficiente, facilitaría a los investigadores y proporcionaría una herramienta para mejorar el rendimiento de los métodos de búsqueda automatizada de redes neuronales. La tarea considerada en este documento está relacionada con la determinación de límites superiores para el número de capas ocultas y el número de neuronas en ellas para aproximar redes neuronales artificiales entrenadas con algoritmos que utilizan la matriz de Jacobi en la función de error. Las fórmulas derivadas para los límites superiores del número de capas ocultas y el número de neuronas en ellas se demuestran teóricamente, y los experimentos presentados confirman su validez. Muestran que la búsqueda de una red neuronal eficiente puede centrarse por debajo de ciertos límites superiores, y por encima de ellos, se vuelve inútil. Las fórmulas proporcionan a los investigadores una herramienta auxiliar útil en la búsqueda de redes neuronales eficientes con una topología óptima. Son aplicables a redes neuronales entrenadas con métodos como Levenberg-Marquardt, Gauss-Newton, regularización bayesiana, gradiente conjugado escalado, cuasi-Newton BFGS, etc., que utilizan la matriz de Jacobi.
Descripción
Un gran número de investigadores dedican mucho tiempo a buscar la red neuronal más eficiente para resolver un problema dado. El procedimiento de configuración, entrenamiento, prueba y comparación del rendimiento esperado se aplica a cada red neuronal experimental. Los parámetros de configuración: métodos de entrenamiento, funciones de transferencia, número de capas ocultas, número de neuronas, número de épocas y error tolerable tienen múltiples valores posibles. Establecer pautas para los valores adecuados de los parámetros acortaría el tiempo necesario para crear una red neuronal eficiente, facilitaría a los investigadores y proporcionaría una herramienta para mejorar el rendimiento de los métodos de búsqueda automatizada de redes neuronales. La tarea considerada en este documento está relacionada con la determinación de límites superiores para el número de capas ocultas y el número de neuronas en ellas para aproximar redes neuronales artificiales entrenadas con algoritmos que utilizan la matriz de Jacobi en la función de error. Las fórmulas derivadas para los límites superiores del número de capas ocultas y el número de neuronas en ellas se demuestran teóricamente, y los experimentos presentados confirman su validez. Muestran que la búsqueda de una red neuronal eficiente puede centrarse por debajo de ciertos límites superiores, y por encima de ellos, se vuelve inútil. Las fórmulas proporcionan a los investigadores una herramienta auxiliar útil en la búsqueda de redes neuronales eficientes con una topología óptima. Son aplicables a redes neuronales entrenadas con métodos como Levenberg-Marquardt, Gauss-Newton, regularización bayesiana, gradiente conjugado escalado, cuasi-Newton BFGS, etc., que utilizan la matriz de Jacobi.