Un análisis de las redes neuronales binarizadas
Autores: Simons, Taylor; Lee, Dah-Jye
Idioma: Inglés
Editor: MDPI
Año: 2019
Acceso abierto
Artículo científico
2019
Un análisis de las redes neuronales binarizadas
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Redes neuronales binarizadas
Activaciones
Pesos
Operaciones bit a bit
Tamaños de modelo
Precisión
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 46
Citaciones: Sin citaciones
En este trabajo, revisamos las Redes Neuronales Binarias (BNNs). BNNs son redes neuronales profundas que utilizan valores binarios para activaciones y pesos, en lugar de valores de precisión completa. Con valores binarios, las BNNs pueden realizar cálculos utilizando operaciones bit a bit, lo que reduce el tiempo de ejecución. Los tamaños de modelo de las BNNs son mucho más pequeños que sus contrapartes de precisión completa. Si bien la precisión de un modelo BNN es generalmente menor que la de modelos de precisión completa, las BNNs han estado cerrando la brecha de precisión y se están volviendo más precisas en conjuntos de datos más grandes como ImageNet. Las BNNs también son buenas candidatas para implementaciones de aprendizaje profundo en FPGAs y ASICs debido a su eficiencia bit a bit. Damos un tutorial de la metodología general de BNN y revisamos varias contribuciones, implementaciones y aplicaciones de las BNNs.
Descripción
En este trabajo, revisamos las Redes Neuronales Binarias (BNNs). BNNs son redes neuronales profundas que utilizan valores binarios para activaciones y pesos, en lugar de valores de precisión completa. Con valores binarios, las BNNs pueden realizar cálculos utilizando operaciones bit a bit, lo que reduce el tiempo de ejecución. Los tamaños de modelo de las BNNs son mucho más pequeños que sus contrapartes de precisión completa. Si bien la precisión de un modelo BNN es generalmente menor que la de modelos de precisión completa, las BNNs han estado cerrando la brecha de precisión y se están volviendo más precisas en conjuntos de datos más grandes como ImageNet. Las BNNs también son buenas candidatas para implementaciones de aprendizaje profundo en FPGAs y ASICs debido a su eficiencia bit a bit. Damos un tutorial de la metodología general de BNN y revisamos varias contribuciones, implementaciones y aplicaciones de las BNNs.