Integración de memoria de puerto único (ISPM) para cálculos de multiprecisión en aceleradores basados en matrices sistólicas
Autores: Yang, Renyu; Shen, Junzhong; Wen, Mei; Cao, Yasong; Li, Yuhang
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Integración de memoria de puerto único (ISPM) para cálculos de multiprecisión en aceleradores basados en matrices sistólicas
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Memoria en chip
Aceleradores de aprendizaje profundo
Cálculo de multiprecisión
Memoria de un solo puerto
Basado en matriz sistólica
Métodos de transformación
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 23
Citaciones: Sin citaciones
La memoria en chip es uno de los componentes principales de los aceleradores de aprendizaje profundo. En general, el área utilizada por la memoria en chip representa alrededor del 30% del área total del chip. Con la creciente complejidad de los algoritmos de aprendizaje profundo, se convertirá en un desafío para los aceleradores integrar una memoria en chip mucho más grande que responda a las necesidades del algoritmo, mientras que la memoria en chip para la computación de múltiples precisiones es requerida por las diferentes precisiones (como FP32, FP16) en los cálculos de entrenamiento e inferencia. Para resolverlo, este artículo explora el uso de memoria de puerto único (SPM) en aceleradores de aprendizaje profundo basados en matrices sístolicas. Proponemos métodos de transformación para escenarios de cálculo de múltiples precisiones, respectivamente, para evitar el conflicto de solicitudes de lectura y escritura simultáneas en el SPM. Luego, demostramos que los dos métodos son factibles y pueden implementarse en hardware sin afectar la eficiencia de cálculo del acelerador. Los resultados experimentales muestran que ambos métodos tienen aproximadamente un 30% y un 25% de mejora en cuanto al costo de área cuando el acelerador integra SPM sin afectar el rendimiento del acelerador, mientras que el costo de hardware es casi despreciable.
Descripción
La memoria en chip es uno de los componentes principales de los aceleradores de aprendizaje profundo. En general, el área utilizada por la memoria en chip representa alrededor del 30% del área total del chip. Con la creciente complejidad de los algoritmos de aprendizaje profundo, se convertirá en un desafío para los aceleradores integrar una memoria en chip mucho más grande que responda a las necesidades del algoritmo, mientras que la memoria en chip para la computación de múltiples precisiones es requerida por las diferentes precisiones (como FP32, FP16) en los cálculos de entrenamiento e inferencia. Para resolverlo, este artículo explora el uso de memoria de puerto único (SPM) en aceleradores de aprendizaje profundo basados en matrices sístolicas. Proponemos métodos de transformación para escenarios de cálculo de múltiples precisiones, respectivamente, para evitar el conflicto de solicitudes de lectura y escritura simultáneas en el SPM. Luego, demostramos que los dos métodos son factibles y pueden implementarse en hardware sin afectar la eficiencia de cálculo del acelerador. Los resultados experimentales muestran que ambos métodos tienen aproximadamente un 30% y un 25% de mejora en cuanto al costo de área cuando el acelerador integra SPM sin afectar el rendimiento del acelerador, mientras que el costo de hardware es casi despreciable.