Ampere Leads A Pack Of AI Startups To Challenge Nvidia

Taasavaldanud Platon

järgijaid: 0

Ajalugu on täis näiteid väiksematest mängijatest, kes tulevad kokku, et võtta vastu suuremaid konkurente. Sel nädalal AI Platform Alliance'i käivitamisega soovib Arm CPU müüja Ampere just seda teha, et vaidlustada Nvidia hegemoonia.

. liit koondab mitmeid tuttavaid kiipide idufirmasid, sealhulgas Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions ja Sapeon, eesmärgiga edendada avatud AI ökosüsteemi.

„Põhiprobleem, mida me täna näeme, on see, et turgu valitsevad lahendused neid asju ei paku. See on praegu suletud ökosüsteem nii riistvara kui ka tarkvara poolelt, see ei ole efektiivne suure tarbitava võimsuse tõttu ja on kulukas,“ rääkis Ampere tootejuht Jeff Wittich. Register meilis. "See muudab inimeste jaoks keeruliseks kohandada AI-d vastavalt oma vajadustele, ilma et see oleks kulukas ja jätkusuutmatu."

Ükski kiibitootja ei saa seda probleemi üksi lahendada, väitis ta. "Tahtsime üheskoos luua rakendatavaid täisplatvormilahendusi." Seega pole üllatav, et liit keskendub nii tugevalt GPU-dest tõhusamate AI-süsteemide ökosüsteemi loomisele.

Selgesõnaline viide "GPU-dele" väljaandes ja Wittichi märkused suletud tarkvara- ja riistvaraökosüsteemide kohta on peaaegu kindlasti lask Nvidiast. Kiibitootja uusimate H100 GPU-de võimsus on 700 vatti ja nende HGX emaplaadile laadituna võivad nad süsteemi tasemel tarbida kuni 10 kW.

Koos töötama

Kiibitootjad üritavad tehisintellekti energiavajadust piirata mitmel viisil. Seda tüüpi tõhusust saab saavutada riistvara, tarkvara või standardite tasemel.

Näiteks võiksid kiibitootjad kokku tulla, et luua ühised vormitegurid, et originaalse disainiga tootjad saaksid välja töötada šassii, mis suudab toetada mitme müüja kiirendit. Tarkvara osas võiksid kiibitootjad joonduda ühise kooditööriistade ja raamistike ümber, nii et mudelid töötaksid sõltumata aluseks olevast riistvaraarhitektuurist.

Alliansi esimene töökorraldus lahendas riistvaraprobleemi.

"Meie esialgne eesmärk on luua mitmesuguseid riistvaralahendusi, mis saaksid kasutada olemasolevaid OEM- ja ODM-platvorme, et neid saaks täna hõlpsasti kasutusele võtta, " ütles Wittich. "See puudutab valikute loomist. Tänapäeval ei ole klientidel palju valikuvõimalusi ja inimesed kipuvad vaikimisi valima ühe lahenduse, mida nad teavad. Kuid seal on paremaid lahendusi, mis on tõhusamad ja kulutõhusamad, ning meie eesmärk on teha need lahendused lõpptarbijatele kättesaadavaks, et nad saaksid need kasutusele võtta.

Cerebrasi tegevjuht Andrew Feldman aga räägib Register et ka avatud vundamendi mudelite väljatöötamine ja vabastamine on võtmeroll. Võtsime ühendust ka Graphcore'iga, et saada nende seisukoht liidu kohta, kuid kiibitootja keeldus kommentaaridest.

Ampere loodab, et allianss meelitab lähinädalatel uusi liikmeid ning kõik tehisintellektiga riistvara tootvad ettevõtted on teretulnud parteiga liituma. Siiski tuleb veel näha, kas AI-süsteemide laiem kättesaadavus alliansi liikmetelt on piisav, et Nvidia turul kägistav haardekoht maha lüüa.

Elevandid toas

Kuigi eksperdid on eriarvamusel, kui suur on Nvidia nõue tehisintellekti ruumi kohta - hinnangul ulatub 75–90 protsendini – pole kahtlust, et ettevõte juhib turgu. Ja nagu meiegi arutatud Eelmisel nädalal suurendasid ettevõtte tooteplaaniga seotud hiljutised arengud seda edumaad tõenäoliselt seni, kuni need suudavad võrgustikutöö toimima panna.

Kuigi AI Platform Alliance sisaldab palju tuttavaid tehisintellekti idufirmasid, puuduvad loendist kaks suurimat ettevõtet, mis tegelevad Nvidia osaluse varastamisega: Intel ja AMD.

Mõlemad ettevõtted on palju investeerinud oma tehisintellekti riist- ja tarkvara arendamisse. Veelgi enam, nad on mõlemad toetanud avatud lähtekoodiga raamistikke ja tööriistu, sealhulgas paljusid, mis töötavad kolmandate osapoolte platvormidega.

Septembris Intel Innovationis Inteli tehnoloogiadirektor Greg Lavender rääkis üles kiibihiiglase tehisintellekti panus, sealhulgas avatud lähtekoodiga OneAPI, OpenVINO ja SYCL käitusajad. SYCL on eriti huvitav, kuna see ei piirdu Inteli riistvaraga, vaid selle asemel on eesmärk olla avatud alternatiiv Nvidia CUDA-le.

AMD toetub tarkvara osas ka suuresti avatud lähtekoodiga kogukonnale. Ettevõte hiljuti teamed up Hugging Face'iga, et laiendada Instincti ja Alveo kiirenditega töötamiseks saadaolevate avatud lähtekoodiga mudelite kataloogi.

Samal ajal on riistvara osas mõlemal kiibitootjal laialdased kogemused – rääkimata ressurssidest – ODM-idega töötamisel, et standardida erinevate süsteemide vormitegureid.

Küsimusele, kas liit oleks avatud kummagi ettevõtte lisamiseks oma ridadesse, vastas Wittich, et "kandideerima on oodatud kõik" ja et esialgne partnerite saak saadi müüjatelt, kellega Ampere oli varem koostööd teinud. ®