Compresión de red neuronal profunda con restricción de energía para estimación de profundidad
Autores: Zeng, Xiangrong; Zhang, Maojun; Zhong, Zhiwei; Liu, Yan
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Compresión de red neuronal profunda con restricción de energía para estimación de profundidad
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Aplicaciones
Aprendizaje profundo
Estimación de profundidad
Restricción de energía
Red neuronal
Rendimiento
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 24
Citaciones: Sin citaciones
Muchas aplicaciones, como la conducción autónoma, la robótica, etc., requieren estimar con precisión la profundidad en tiempo real. Actualmente, el aprendizaje profundo es el enfoque más popular para la estimación de profundidad estéreo. Algunos de estos modelos deben operar en entornos altamente limitados en energía, ya que suelen ser computacionalmente intensivos, conteniendo conjuntos de parámetros masivos que van desde miles hasta millones. Esto hace que sea difícil realizarlos en dispositivos de baja potencia con almacenamiento limitado en la práctica. Para superar esta limitación, modelamos el proceso de entrenamiento de una red neuronal profunda (DNN) para la estimación de profundidad bajo una restricción de energía dada como un problema de optimización restringida y lo resolvemos a través de un método propuesto de Newton cuasi-cúbico adaptativo proyectado (llamado ProjACQN). Además, el modelo entrenado también se implementa en una GPU y un dispositivo integrado para evaluar su rendimiento. Los experimentos muestran que los resultados de la etapa cuatro de ProjACQN en los conjuntos de datos KITTI-2012 y KITTI-2015 bajo un presupuesto de energía del 70% logran (1) un error de tres píxeles más bajo del 0.13% y 0.61%, respectivamente, que el estado del arte ProjAdam cuando se coloca en un solo RTX 3090Ti; (2) un error de tres píxeles más bajo del 4.82% y 7.58%, respectivamente, que el método de poda Lottery-Ticket; (3) un error de tres píxeles más bajo del 5.80% y 0.12%, respectivamente, que ProjAdam en el dispositivo integrado Nvidia Jetson AGX Xavier. Estos resultados muestran que nuestro método puede reducir el consumo de energía de las DNN de estimación de profundidad manteniendo su precisión.
Descripción
Muchas aplicaciones, como la conducción autónoma, la robótica, etc., requieren estimar con precisión la profundidad en tiempo real. Actualmente, el aprendizaje profundo es el enfoque más popular para la estimación de profundidad estéreo. Algunos de estos modelos deben operar en entornos altamente limitados en energía, ya que suelen ser computacionalmente intensivos, conteniendo conjuntos de parámetros masivos que van desde miles hasta millones. Esto hace que sea difícil realizarlos en dispositivos de baja potencia con almacenamiento limitado en la práctica. Para superar esta limitación, modelamos el proceso de entrenamiento de una red neuronal profunda (DNN) para la estimación de profundidad bajo una restricción de energía dada como un problema de optimización restringida y lo resolvemos a través de un método propuesto de Newton cuasi-cúbico adaptativo proyectado (llamado ProjACQN). Además, el modelo entrenado también se implementa en una GPU y un dispositivo integrado para evaluar su rendimiento. Los experimentos muestran que los resultados de la etapa cuatro de ProjACQN en los conjuntos de datos KITTI-2012 y KITTI-2015 bajo un presupuesto de energía del 70% logran (1) un error de tres píxeles más bajo del 0.13% y 0.61%, respectivamente, que el estado del arte ProjAdam cuando se coloca en un solo RTX 3090Ti; (2) un error de tres píxeles más bajo del 4.82% y 7.58%, respectivamente, que el método de poda Lottery-Ticket; (3) un error de tres píxeles más bajo del 5.80% y 0.12%, respectivamente, que ProjAdam en el dispositivo integrado Nvidia Jetson AGX Xavier. Estos resultados muestran que nuestro método puede reducir el consumo de energía de las DNN de estimación de profundidad manteniendo su precisión.