logo móvil
Contáctanos

Integración de memoria de puerto único (ISPM) para cálculos de multiprecisión en aceleradores basados en matrices sistólicas

Autores: Yang, Renyu; Shen, Junzhong; Wen, Mei; Cao, Yasong; Li, Yuhang

Idioma: Inglés

Editor: MDPI

Año: 2022

Descargar PDF

Acceso abierto

Artículo científico
2022

Integración de memoria de puerto único (ISPM) para cálculos de multiprecisión en aceleradores basados en matrices sistólicas


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería Eléctrica y Electrónica

Palabras clave

Memoria en chip
Aceleradores de aprendizaje profundo
Cálculo de multiprecisión
Memoria de un solo puerto
Basado en matriz sistólica
Métodos de transformación

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 23

Citaciones: Sin citaciones


Descripción
La memoria en chip es uno de los componentes principales de los aceleradores de aprendizaje profundo. En general, el área utilizada por la memoria en chip representa alrededor del 30% del área total del chip. Con la creciente complejidad de los algoritmos de aprendizaje profundo, se convertirá en un desafío para los aceleradores integrar una memoria en chip mucho más grande que responda a las necesidades del algoritmo, mientras que la memoria en chip para la computación de múltiples precisiones es requerida por las diferentes precisiones (como FP32, FP16) en los cálculos de entrenamiento e inferencia. Para resolverlo, este artículo explora el uso de memoria de puerto único (SPM) en aceleradores de aprendizaje profundo basados en matrices sístolicas. Proponemos métodos de transformación para escenarios de cálculo de múltiples precisiones, respectivamente, para evitar el conflicto de solicitudes de lectura y escritura simultáneas en el SPM. Luego, demostramos que los dos métodos son factibles y pueden implementarse en hardware sin afectar la eficiencia de cálculo del acelerador. Los resultados experimentales muestran que ambos métodos tienen aproximadamente un 30% y un 25% de mejora en cuanto al costo de área cuando el acelerador integra SPM sin afectar el rendimiento del acelerador, mientras que el costo de hardware es casi despreciable.

Otros recursos que podrían interesarte

Temas Virtualpro