Eficientes capas de convolución binarizadas para aplicaciones de inspección visual en FPGAs y ASICs con recursos limitados
Autores: Simons, Taylor; Lee, Dah-Jye
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Eficientes capas de convolución binarizadas para aplicaciones de inspección visual en FPGAs y ASICs con recursos limitados
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Reciente aumento
Redes neuronales binarizadas
BNNs
Costo computacional
FPGAs
Características de chorro neuronal
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 31
Citaciones: Sin citaciones
Ha habido un aumento reciente en las publicaciones relacionadas con las redes neuronales binarizadas (BNN), que utilizan valores binarios para representar tanto los pesos como las activaciones en redes neuronales profundas (DNN). Debido a la naturaleza bit a bit de las BNN, ha habido muchos esfuerzos para implementar BNN en ASIC y FPGAs. Aunque las BNN son excelentes candidatas para este tipo de sistemas con recursos limitados, la mayoría de las implementaciones aún requieren FPGAs muy grandes o sistemas de coprocesamiento CPU-FPGA. Nuestro trabajo se centra en reducir aún más el costo computacional de las BNN, haciéndolas más eficientes de implementar en FPGAs. Nos enfocamos en tareas de inspección visual integrada, como la clasificación de inspección de calidad en piezas fabricadas y la clasificación de productos agrícolas. Proponemos una nueva capa convolucional binarizada, llamada capa de características de chorro neuronal, que aprende kernels de visión por computadora clásicos bien conocidos que son eficientes de calcular como grupo. Mostramos que en tareas de inspección visual, las características de chorro neuronal funcionan de manera comparativa a las capas convolucionales BNN estándar mientras utilizan menos recursos computacionales. También demostramos que las características de chorro neuronal tienden a ser más estables que las capas convolucionales BNN al entrenar modelos pequeños.
Descripción
Ha habido un aumento reciente en las publicaciones relacionadas con las redes neuronales binarizadas (BNN), que utilizan valores binarios para representar tanto los pesos como las activaciones en redes neuronales profundas (DNN). Debido a la naturaleza bit a bit de las BNN, ha habido muchos esfuerzos para implementar BNN en ASIC y FPGAs. Aunque las BNN son excelentes candidatas para este tipo de sistemas con recursos limitados, la mayoría de las implementaciones aún requieren FPGAs muy grandes o sistemas de coprocesamiento CPU-FPGA. Nuestro trabajo se centra en reducir aún más el costo computacional de las BNN, haciéndolas más eficientes de implementar en FPGAs. Nos enfocamos en tareas de inspección visual integrada, como la clasificación de inspección de calidad en piezas fabricadas y la clasificación de productos agrícolas. Proponemos una nueva capa convolucional binarizada, llamada capa de características de chorro neuronal, que aprende kernels de visión por computadora clásicos bien conocidos que son eficientes de calcular como grupo. Mostramos que en tareas de inspección visual, las características de chorro neuronal funcionan de manera comparativa a las capas convolucionales BNN estándar mientras utilizan menos recursos computacionales. También demostramos que las características de chorro neuronal tienden a ser más estables que las capas convolucionales BNN al entrenar modelos pequeños.