Investigadores de la Universidad de California en Irvine publicaron un artículo técnico titulado “Exploración espacial de programación entre capas para inferencia multimodelo en chiplets heterogéneos”.
Abstracto:
“Para abordar la creciente demanda informática de las recientes cargas de trabajo multimodelo con modelos pesados, como modelos de lenguaje grandes, proponemos implementar aceleradores heterogéneos basados en módulos multichip (MCM) basados en chiplets. Desarrollamos un marco de programación avanzado para aceleradores MCM heterogéneos que consideran de manera integral la heterogeneidad compleja y la canalización entre chips. Nuestros experimentos utilizando nuestro marco en los modelos GPT-2 y ResNet-50 en un sistema de 4 chips han mostrado un aumento de hasta 2.2 y 1.9 veces en el rendimiento y la eficiencia energética, en comparación con un acelerador monolítico con un flujo de datos estacionario de salida optimizado”.
Encuentra los documento técnico aquí. Publicado en diciembre de 2023 (preimpresión).
Odema, Mohanad, Hyoukjun Kwon y Mohammad Abdullah Al Faruque. "Exploración espacial de programación entre capas para inferencia multimodelo en chiplets heterogéneos". Preimpresión de arXiv arXiv:2312.09401 (2023).
Lectura relacionada
Chiplets: 2023 (Libro electrónico)
Qué son los chiplets, para qué se utilizan hoy y para qué se utilizarán en el futuro.
Preparación para chiplets comerciales
Una discusión de expertos sobre lo que falta, los cambios que se están produciendo y por qué los chiplets son cada vez más necesarios.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://semiengineering.com/chiplet-heterogeneity-and-advanced-scheduling-with-pipelining/
- $ UP
- 1
- 2023
- a
- acelerador
- aceleradores
- dirección
- avanzado
- AL
- an
- y
- somos
- At
- BE
- "Ser"
- by
- California
- Cambios
- completo
- en comparación con
- integraciones
- Calcular
- Considerar
- Diciembre
- Demanda
- desplegar
- desarrollar
- discusión
- eBook
- eficiencia
- energía
- eficiencia energética
- experimentos
- experto
- exploración
- Marco conceptual
- Desde
- futuras
- Tienen
- pesado
- esta página
- HTTPS
- in
- aumente
- creciente
- cada vez más
- Kwon
- idioma
- large
- como
- que falta
- modelos
- módulo
- Monolítico
- necesario
- Nuevo
- of
- on
- habiertos
- optimizado
- "nuestr
- Papel
- Platón
- Inteligencia de datos de Platón
- PlatónDatos
- ofrece
- publicado
- reciente
- investigadores
- programación
- mostrado
- Espacio
- exploración espacial
- te
- Técnico
- esa
- La
- El futuro de las
- ellos
- rendimiento
- titulada
- a
- hoy
- En curso
- universidad
- equipo de Manejo Integrado de Plagas de la Universidad de California
- usado
- usando
- fue
- we
- ¿
- porque
- seguirá
- zephyrnet