logo móvil
Contáctanos

Marco de modelado y simulación de rendimiento y rendimiento de memoria de redes neuronales profundas

Autores: Gabbay, Freddy; Lev Aharoni, Rotem; Schweitzer, Ori

Idioma: Inglés

Editor: MDPI

Año: 2022

Descargar PDF

Acceso abierto

Artículo científico
2022

Marco de modelado y simulación de rendimiento y rendimiento de memoria de redes neuronales profundas


Categoría

Matemáticas

Subcategoría

Matemáticas generales

Palabras clave

Redes neuronales
Inteligencia artificial
Ancho de banda de memoria
Tecnologías de semiconductores
Sistemas de memoria
Aplicaciones de DNN

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 20

Citaciones: Sin citaciones


Descripción
Las redes neuronales profundas (DNNs) se utilizan ampliamente en diversas aplicaciones y plataformas de inteligencia artificial, como sensores en dispositivos de internet de las cosas (IoT), reconocimiento de voz e imagen en sistemas móviles y búsqueda web en centros de datos. Aunque las DNNs logran una precisión de predicción notable, introducen importantes desafíos computacionales y de ancho de banda de memoria debido a la creciente complejidad del modelo y la cantidad cada vez mayor de datos utilizados para el entrenamiento y la inferencia. Estos desafíos introducen dificultades importantes no solo debido a las limitaciones de costos del sistema, rendimiento y consumo de energía, sino también debido a las limitaciones en el ancho de banda de memoria actualmente disponible. Los avances recientes en tecnologías semiconductores han intensificado aún más la brecha entre el rendimiento del hardware computacional y el ancho de banda de los sistemas de memoria. En consecuencia, los sistemas de memoria son, hoy en día, un cuello de botella importante para las aplicaciones de DNN. En este documento, presentamos DRAMA, un simulador de memoria de redes neuronales profundas. DRAMA extiende el simulador SCALE-Sim para la inferencia de DNN en matrices sistólicas con un entorno de modelado y simulación detallado, preciso y extenso del sistema de memoria. DRAMA puede simular en detalle los componentes jerárquicos de la memoria principal, como canales de memoria, módulos, rangos y bancos, y los parámetros de tiempo relacionados. Además, DRAMA puede explorar compensaciones para el rendimiento del sistema de memoria e identificar cuellos de botella para diferentes DNN y arquitecturas de memoria. Demostramos las capacidades de DRAMA a través de un conjunto de simulaciones experimentales basadas en varios casos de uso.

Otros recursos que podrían interesarte

Temas Virtualpro