Heterogeneidad de chiplets y programación avanzada con canalización

Heterogeneidad de chiplets y programación avanzada con canalización

Nodo de origen: 3058733

Investigadores de la Universidad de California en Irvine publicaron un artículo técnico titulado “Exploración espacial de programación entre capas para inferencia multimodelo en chiplets heterogéneos”.

Abstracto:

“Para abordar la creciente demanda informática de las recientes cargas de trabajo multimodelo con modelos pesados, como modelos de lenguaje grandes, proponemos implementar aceleradores heterogéneos basados ​​en módulos multichip (MCM) basados ​​en chiplets. Desarrollamos un marco de programación avanzado para aceleradores MCM heterogéneos que consideran de manera integral la heterogeneidad compleja y la canalización entre chips. Nuestros experimentos utilizando nuestro marco en los modelos GPT-2 y ResNet-50 en un sistema de 4 chips han mostrado un aumento de hasta 2.2 y 1.9 veces en el rendimiento y la eficiencia energética, en comparación con un acelerador monolítico con un flujo de datos estacionario de salida optimizado”.

Encuentra los documento técnico aquí. Publicado en diciembre de 2023 (preimpresión).

Odema, Mohanad, Hyoukjun Kwon y Mohammad Abdullah Al Faruque. "Exploración espacial de programación entre capas para inferencia multimodelo en chiplets heterogéneos". Preimpresión de arXiv arXiv:2312.09401 (2023).

Lectura relacionada
Chiplets: 2023 (Libro electrónico)
Qué son los chiplets, para qué se utilizan hoy y para qué se utilizarán en el futuro.
Preparación para chiplets comerciales
Una discusión de expertos sobre lo que falta, los cambios que se están produciendo y por qué los chiplets son cada vez más necesarios.

Sello de tiempo:

Mas de Semi Ingeniería