Un modelo de neurona dendrítica basado en SHADE autoevolutivo de hiperparámetros para clasificación
Autores: Yang, Haichuan; Zhang, Yuxin; Zhang, Chaofeng; Xia, Wei; Yang, Yifei; Zhang, Zhenwei
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Un modelo de neurona dendrítica basado en SHADE autoevolutivo de hiperparámetros para clasificación
Categoría
Matemáticas
Subcategoría
Análisis matemático
Palabras clave
Redes neuronales
Desafíos
Ajuste de hiperparámetros
Conjuntos de datos
Modelo de neurona dendrítica
Algoritmo evolutivo
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 22
Citaciones: Sin citaciones
En los últimos años, las redes neuronales artificiales (ANNs), basadas en el modelo fundamental establecido por McCulloch y Pitts en 1943, han estado a la vanguardia de la investigación computacional. A pesar de su prominencia, las ANNs han enfrentado una serie de desafíos, incluida la sintonización de hiperparámetros y la necesidad de conjuntos de datos vastos. Es porque muchas estrategias se han enfocado predominantemente en mejorar la profundidad y complejidad de estas redes que a veces se pasa por alto la esencia de las capacidades de procesamiento de las neuronas individuales. En consecuencia, se introdujo un modelo que enfatiza un modelo de neurona dendrítica biológicamente preciso (DNM) que refleja las características espacio-temporales de las neuronas reales. Sin embargo, aunque el DNM muestra un rendimiento excepcional en tareas de clasificación, lucha con las complejidades en los ajustes de parámetros. En este estudio, introdujimos los hiperparámetros del DNM en un algoritmo evolutivo, transformando así el método de configuración de hiperparámetros del DNM de los ajustes manuales anteriores a ajustes adaptativos a medida que el algoritmo itera. El marco recién propuesto representa una neurona que evoluciona junto con las iteraciones, simplificando así el proceso de ajuste de parámetros. La evaluación comparativa en conjuntos de datos de clasificación de referencia del Repositorio de Aprendizaje Automático de la UCI indica que nuestras mejoras menores conducen a mejoras significativas en el rendimiento del DNM, superando a otros algoritmos de vanguardia en términos de precisión y eficiencia. Además, también analizamos el proceso iterativo utilizando redes complejas, y los resultados indicaron que la interacción de la información durante la iteración y evolución del DNM sigue una distribución de ley de potencia. Con este hallazgo, se podrían proporcionar algunas ideas para el estudio del entrenamiento de modelos de neuronas.
Descripción
En los últimos años, las redes neuronales artificiales (ANNs), basadas en el modelo fundamental establecido por McCulloch y Pitts en 1943, han estado a la vanguardia de la investigación computacional. A pesar de su prominencia, las ANNs han enfrentado una serie de desafíos, incluida la sintonización de hiperparámetros y la necesidad de conjuntos de datos vastos. Es porque muchas estrategias se han enfocado predominantemente en mejorar la profundidad y complejidad de estas redes que a veces se pasa por alto la esencia de las capacidades de procesamiento de las neuronas individuales. En consecuencia, se introdujo un modelo que enfatiza un modelo de neurona dendrítica biológicamente preciso (DNM) que refleja las características espacio-temporales de las neuronas reales. Sin embargo, aunque el DNM muestra un rendimiento excepcional en tareas de clasificación, lucha con las complejidades en los ajustes de parámetros. En este estudio, introdujimos los hiperparámetros del DNM en un algoritmo evolutivo, transformando así el método de configuración de hiperparámetros del DNM de los ajustes manuales anteriores a ajustes adaptativos a medida que el algoritmo itera. El marco recién propuesto representa una neurona que evoluciona junto con las iteraciones, simplificando así el proceso de ajuste de parámetros. La evaluación comparativa en conjuntos de datos de clasificación de referencia del Repositorio de Aprendizaje Automático de la UCI indica que nuestras mejoras menores conducen a mejoras significativas en el rendimiento del DNM, superando a otros algoritmos de vanguardia en términos de precisión y eficiencia. Además, también analizamos el proceso iterativo utilizando redes complejas, y los resultados indicaron que la interacción de la información durante la iteración y evolución del DNM sigue una distribución de ley de potencia. Con este hallazgo, se podrían proporcionar algunas ideas para el estudio del entrenamiento de modelos de neuronas.