Modelado de la dinámica de redes de disparo con STDP basado en memristores para resolver tareas de clasificación
Autores: Sboev, Alexander; Vlasov, Danila; Rybka, Roman; Davydov, Yury; Serenko, Alexey; Demin, Vyacheslav
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Modelado de la dinámica de redes de disparo con STDP basado en memristores para resolver tareas de clasificación
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Entrenamiento
Redes neuronales de espigas
Memristores
Modelos de plasticidad sináptica
Plasticidad dependiente del tiempo de espiga
Codificación temporal
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 31
Citaciones: Sin citaciones
El problema con el entrenamiento de redes neuronales de disparo (SNNs) es relevante debido al consumo de energía ultra bajo que estas redes podrían exhibir cuando se implementan en hardware neuromórfico. El progreso continuo en la fabricación de memristores, una base prospectiva para sinapsis analógicas, da relevancia al estudio de la posibilidad de aprendizaje de SNN basado en modelos de plasticidad sináptica, obtenidos mediante el ajuste de las mediciones experimentales del cambio de conductancia del memristor. La dinámica de las conductancias de los memristores es (necesariamente) no lineal, porque los cambios de conductancia dependen de los tiempos de disparo, que las neuronas emiten de manera todo o nada. La capacidad de resolver tareas de clasificación se mostró previamente para modelos de redes de disparo basados en el mecanismo de aprendizaje local bioinspirado de la plasticidad dependiente del tiempo de disparo (STDP), así como con la plasticidad que modela el cambio de conductancia de los memristores de nanocompuesto (NC). Los datos de entrada se presentaron a la red codificados en las intensidades de secuencias de disparo de entrada de Poisson. Este trabajo considera otro enfoque para codificar los datos de entrada en secuencias de disparo de entrada presentadas a la red: codificación temporal, en la que un vector de entrada se transforma en el tiempo relativo de los disparos de entrada individuales. Dado que la codificación temporal utiliza menos disparos de entrada, el procesamiento de cada vector de entrada por la red puede ser más rápido y más eficiente en energía. El objetivo del trabajo actual es mostrar la aplicabilidad de la codificación temporal para el entrenamiento de redes de disparo con tres modelos de plasticidad sináptica: STDP, aproximación de memristor NC y aproximación de memristor PPX. Evaluamos la precisión del enfoque propuesto en varias tareas de clasificación de referencia: Iris de Fisher, cáncer de mama de Wisconsin y la tarea de equilibrio de poste (CartPole). Las precisiones logradas por SNN con plasticidad de memristor y STDP convencional son comparables y están a la par con enfoques clásicos de aprendizaje automático.
Descripción
El problema con el entrenamiento de redes neuronales de disparo (SNNs) es relevante debido al consumo de energía ultra bajo que estas redes podrían exhibir cuando se implementan en hardware neuromórfico. El progreso continuo en la fabricación de memristores, una base prospectiva para sinapsis analógicas, da relevancia al estudio de la posibilidad de aprendizaje de SNN basado en modelos de plasticidad sináptica, obtenidos mediante el ajuste de las mediciones experimentales del cambio de conductancia del memristor. La dinámica de las conductancias de los memristores es (necesariamente) no lineal, porque los cambios de conductancia dependen de los tiempos de disparo, que las neuronas emiten de manera todo o nada. La capacidad de resolver tareas de clasificación se mostró previamente para modelos de redes de disparo basados en el mecanismo de aprendizaje local bioinspirado de la plasticidad dependiente del tiempo de disparo (STDP), así como con la plasticidad que modela el cambio de conductancia de los memristores de nanocompuesto (NC). Los datos de entrada se presentaron a la red codificados en las intensidades de secuencias de disparo de entrada de Poisson. Este trabajo considera otro enfoque para codificar los datos de entrada en secuencias de disparo de entrada presentadas a la red: codificación temporal, en la que un vector de entrada se transforma en el tiempo relativo de los disparos de entrada individuales. Dado que la codificación temporal utiliza menos disparos de entrada, el procesamiento de cada vector de entrada por la red puede ser más rápido y más eficiente en energía. El objetivo del trabajo actual es mostrar la aplicabilidad de la codificación temporal para el entrenamiento de redes de disparo con tres modelos de plasticidad sináptica: STDP, aproximación de memristor NC y aproximación de memristor PPX. Evaluamos la precisión del enfoque propuesto en varias tareas de clasificación de referencia: Iris de Fisher, cáncer de mama de Wisconsin y la tarea de equilibrio de poste (CartPole). Las precisiones logradas por SNN con plasticidad de memristor y STDP convencional son comparables y están a la par con enfoques clásicos de aprendizaje automático.