Eterogeneitate chiplet și programare avansată cu pipelining

O lucrare tehnică intitulată „Inter-Layer Scheduling Space Exploration for Multi-model Inference on Heterogeneous Chiplets” a fost publicată de cercetătorii de la Universitatea din California Irvine.

Rezumat:

„Pentru a răspunde cererii tot mai mari de calcul din sarcinile de lucru cu mai multe modele recente cu modele grele, cum ar fi modelele de limbaj mari, propunem să implementăm acceleratoare eterogene bazate pe module multi-cipuri (MCM) bazate pe chiplet. Dezvoltăm un cadru avansat de programare pentru acceleratoarele MCM eterogene, care iau în considerare în mod cuprinzător eterogenitatea complexă și pipeliningul inter-chiplet. Experimentele noastre folosind cadrul nostru pe modelele GPT-2 și ResNet-50 pe un sistem cu 4 chip-uri au arătat o creștere de până la 2.2 și 1.9 ori a debitului și a eficienței energetice, în comparație cu un accelerator monolitic cu un flux de date staționar de ieșire optimizat.”

Găsi lucrare tehnică aici. Publicat în decembrie 2023 (preprint).

Odema, Mohanad, Hyoukjun Kwon și Mohammad Abdullah Al Faruque. „Explorarea spațiului de programare inter-strat pentru inferență multimodel pe chipleturi eterogene.” arXiv preprint arXiv:2312.09401 (2023).

Citire asemănătoare
Chiplets: 2023 (carte electronică)
Ce sunt chipleturile, pentru ce sunt folosite astăzi și pentru ce vor fi folosite în viitor.
Pregătirea pentru Chiplets Comerciale
O discuție de experți despre ceea ce lipsește, ce schimbări sunt în curs și de ce chipleturile sunt din ce în ce mai necesare.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://semiengineering.com/chiplet-heterogeneity-and-advanced-scheduling-with-pipelining/