Pimcosim: simulador de hardware/software para explorar arquitecturas de procesamiento en memoria
Autores: Shin, Jinyoung; An, Seongmo; Lee, Sangho; Lee, Seung Eun
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Pimcosim: simulador de hardware/software para explorar arquitecturas de procesamiento en memoria
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Inteligencia artificial
Movimiento de datos
Procesamiento en memoria
Arquitectura
Simuladores
DRAM-PIM.
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 35
Citaciones: Sin citaciones
A medida que el alcance de la inteligencia artificial (IA) se expande y la estructura se vuelve más compleja, la cantidad de datos para inferencia y entrenamiento ha aumentado. En las arquitecturas informáticas tradicionales, las limitaciones de ancho de banda de memoria han intensificado los cuellos de botella en los sistemas de IA, y se han propuesto arquitecturas de procesamiento en memoria (PIM) para superar este problema. PIM es una arquitectura que realiza cálculos dentro de la memoria, reduciendo así el movimiento de datos entre la CPU y la memoria. Sin embargo, dado que PIM es difícil de optimizar como arquitectura de propósito general, es esencial adoptar una arquitectura adecuada para la aplicación objetivo. Aunque se han introducido varios simuladores y emuladores para la exploración del espacio de diseño (DSE) de diferentes arquitecturas PIM, los simuladores tienen limitaciones en la depuración de operaciones de hardware, y los emuladores enfrentan desafíos para modificar de forma flexible la configuración del sistema, ya que los emuladores implementan toda la arquitectura en hardware. Por lo tanto, este documento presenta PIMCoSim, un co-simulador hardware-software integral para la DSE de sistemas DRAM-PIM. Este co-simulador emula parcialmente elementos de procesamiento (PEs) implementados en hardware simplificado e integra modelos de software para operaciones de memoria, facilitando la DSE de sistemas PIM. Para validar PIMCoSim, analizamos resultados para diferentes cargas de trabajo computacionales variando las estructuras PIM y las políticas operativas, demostrando la eficiencia de los sistemas DRAM-PIM. El enfoque de co-simulación en PIMCoSim tiene como objetivo contribuir al análisis de configuraciones DRAM-PIM y a la adopción de estructuras optimizadas.
Descripción
A medida que el alcance de la inteligencia artificial (IA) se expande y la estructura se vuelve más compleja, la cantidad de datos para inferencia y entrenamiento ha aumentado. En las arquitecturas informáticas tradicionales, las limitaciones de ancho de banda de memoria han intensificado los cuellos de botella en los sistemas de IA, y se han propuesto arquitecturas de procesamiento en memoria (PIM) para superar este problema. PIM es una arquitectura que realiza cálculos dentro de la memoria, reduciendo así el movimiento de datos entre la CPU y la memoria. Sin embargo, dado que PIM es difícil de optimizar como arquitectura de propósito general, es esencial adoptar una arquitectura adecuada para la aplicación objetivo. Aunque se han introducido varios simuladores y emuladores para la exploración del espacio de diseño (DSE) de diferentes arquitecturas PIM, los simuladores tienen limitaciones en la depuración de operaciones de hardware, y los emuladores enfrentan desafíos para modificar de forma flexible la configuración del sistema, ya que los emuladores implementan toda la arquitectura en hardware. Por lo tanto, este documento presenta PIMCoSim, un co-simulador hardware-software integral para la DSE de sistemas DRAM-PIM. Este co-simulador emula parcialmente elementos de procesamiento (PEs) implementados en hardware simplificado e integra modelos de software para operaciones de memoria, facilitando la DSE de sistemas PIM. Para validar PIMCoSim, analizamos resultados para diferentes cargas de trabajo computacionales variando las estructuras PIM y las políticas operativas, demostrando la eficiencia de los sistemas DRAM-PIM. El enfoque de co-simulación en PIMCoSim tiene como objetivo contribuir al análisis de configuraciones DRAM-PIM y a la adopción de estructuras optimizadas.