Modelo de súper resolución cuantificado en múltiple precisión
Autores: Liu, Jingyu; Wang, Qiong; Zhang, Dunbo; Shen, Li
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Modelo de súper resolución cuantificado en múltiple precisión
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Aprendizaje profundo
Tecnología de compresión de modelos
Cuantificación
Redes de modelos de súper resolución
Tiempo de inferencia
Precisión
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 38
Citaciones: Sin citaciones
El aprendizaje profundo ha logrado resultados sobresalientes en diversas tareas de aprendizaje automático en el contexto del rápido aumento de la capacidad de cómputo del equipo. Sin embargo, al lograr un mayor rendimiento y efectos, el tamaño del modelo es mayor, el tiempo de entrenamiento e inferencia es más largo, la ocupación de la memoria y el almacenamiento aumentan, la eficiencia computacional disminuye y el consumo de energía aumenta. Por lo tanto, es difícil hacer que estos modelos se ejecuten en dispositivos periféricos como dispositivos micro y móviles. La tecnología de compresión de modelos está surgiendo y siendo investigada gradualmente, por ejemplo, la cuantificación de modelos. El entrenamiento consciente de la cuantificación puede tener en cuenta una mayor pérdida de precisión resultante del mapeo de datos en el entrenamiento del modelo, que limita y aproxima los datos al actualizar los parámetros, e introduce errores de cuantificación en la función de pérdida del modelo. En la cuantificación, encontramos que algunas etapas de las dos redes de modelos de superresolución, SRGAN y ESRGAN, mostraron sensibilidad a la cuantificación, lo que redujo en gran medida el rendimiento. Por lo tanto, utilizamos cuantificación de enteros de mayor bits para la etapa sensible y entrenamos el modelo juntos en un entrenamiento consciente de la cuantificación. Aunque el tamaño del modelo se sacrificó un poco, se logró una precisión que se acerca al modelo original. El modelo ESRGAN se redujo en casi un 67.14% y el modelo SRGAN se redujo en casi un 68.48%, y el tiempo de inferencia se redujo en casi un 30.48% y 39.85% respectivamente. Además, los valores de PI de SRGAN y ESRGAN son 2.1049 y 2.2075 respectivamente.
Descripción
El aprendizaje profundo ha logrado resultados sobresalientes en diversas tareas de aprendizaje automático en el contexto del rápido aumento de la capacidad de cómputo del equipo. Sin embargo, al lograr un mayor rendimiento y efectos, el tamaño del modelo es mayor, el tiempo de entrenamiento e inferencia es más largo, la ocupación de la memoria y el almacenamiento aumentan, la eficiencia computacional disminuye y el consumo de energía aumenta. Por lo tanto, es difícil hacer que estos modelos se ejecuten en dispositivos periféricos como dispositivos micro y móviles. La tecnología de compresión de modelos está surgiendo y siendo investigada gradualmente, por ejemplo, la cuantificación de modelos. El entrenamiento consciente de la cuantificación puede tener en cuenta una mayor pérdida de precisión resultante del mapeo de datos en el entrenamiento del modelo, que limita y aproxima los datos al actualizar los parámetros, e introduce errores de cuantificación en la función de pérdida del modelo. En la cuantificación, encontramos que algunas etapas de las dos redes de modelos de superresolución, SRGAN y ESRGAN, mostraron sensibilidad a la cuantificación, lo que redujo en gran medida el rendimiento. Por lo tanto, utilizamos cuantificación de enteros de mayor bits para la etapa sensible y entrenamos el modelo juntos en un entrenamiento consciente de la cuantificación. Aunque el tamaño del modelo se sacrificó un poco, se logró una precisión que se acerca al modelo original. El modelo ESRGAN se redujo en casi un 67.14% y el modelo SRGAN se redujo en casi un 68.48%, y el tiempo de inferencia se redujo en casi un 30.48% y 39.85% respectivamente. Además, los valores de PI de SRGAN y ESRGAN son 2.1049 y 2.2075 respectivamente.