Un método de aprendizaje ligero para redes de configuración estocástica utilizando una solución no inversa
Autores: Nan, Jing; Jian, Zhonghua; Ning, Chuanfeng; Dai, Wei
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Un método de aprendizaje ligero para redes de configuración estocástica utilizando una solución no inversa
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Redes de configuración estocástica
SCNs
SCNs livianas
Método de inversión generalizada de Moore-Penrose
Descomposición de Cholesky
Aproximación de funciones de referencia
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 38
Citaciones: Sin citaciones
Las redes de configuración estocástica (SCNs) enfrentan problemas que consumen mucho tiempo al tratar con tareas de modelado complejas que generalmente requieren una gran cantidad de nodos ocultos para construir una red enorme. Una razón importante detrás de este problema es que las SCNs siempre emplean el método de la inversa generalizada de Moore-Penrose con alta complejidad para actualizar los pesos de salida en cada incremento. Para abordar este problema, este documento propone unas SCNs ligeras, llamadas L-SCNs. En primer lugar, para evitar el uso del método de la inversa generalizada de Moore-Penrose, se propone una ecuación definida positiva para reemplazar la ecuación sobredeterminada, y se demuestra la consistencia de su solución. Luego, para reducir la complejidad de calcular el peso de salida, se propone un método de baja complejidad basado en la descomposición de Cholesky. Los resultados experimentales basados en tanto la aproximación de funciones de referencia como en problemas del mundo real, incluidas aplicaciones de regresión y clasificación, muestran que las L-SCNs son lo suficientemente ligeras.
Descripción
Las redes de configuración estocástica (SCNs) enfrentan problemas que consumen mucho tiempo al tratar con tareas de modelado complejas que generalmente requieren una gran cantidad de nodos ocultos para construir una red enorme. Una razón importante detrás de este problema es que las SCNs siempre emplean el método de la inversa generalizada de Moore-Penrose con alta complejidad para actualizar los pesos de salida en cada incremento. Para abordar este problema, este documento propone unas SCNs ligeras, llamadas L-SCNs. En primer lugar, para evitar el uso del método de la inversa generalizada de Moore-Penrose, se propone una ecuación definida positiva para reemplazar la ecuación sobredeterminada, y se demuestra la consistencia de su solución. Luego, para reducir la complejidad de calcular el peso de salida, se propone un método de baja complejidad basado en la descomposición de Cholesky. Los resultados experimentales basados en tanto la aproximación de funciones de referencia como en problemas del mundo real, incluidas aplicaciones de regresión y clasificación, muestran que las L-SCNs son lo suficientemente ligeras.