Next Snapdragon Chip Leaks: The Upcoming Mobile CPU Is Packed With AI Power - Decrypt

Republicat de Platon

Urmaritori: 0

Qualcomm, a titan in the realm of high-end smartph0ne processors, is gearing up to unveil the third generation of its Snapdragon 8 chip. This announcement is particularly noteworthy given that its current top-of-the-line predecessor, the Snapdragon 8 Gen 2, currently holds the title of the second most powerful smartphone chip ever, according to Antutu benchmarks, bested only by the Dimensity 9200+ developed by Taiwanese manufacturer MediaTek.

Expected to be unveiled officially on Tuesday, details of the new chip scurs online on Monday. The new chip promises not just enhanced performance but a significant leap in on-device AI capabilities, according to MS Poweruser.

În plus față de îmbunătățirile de performanță incrementale așteptate, cum ar fi un GPU cu 25% mai rapid și un procesor cu 30% mai rapid, noul sistem pe cip (SoC) are un motor AI puternic capabil să suporte precizie ridicată în modelele AI locale și poate rula modele locale în limbaj mare (LLM) cu peste 10 miliarde de parametri. Cipul poate rula chiar și modelul text-to-image Stable Diffusion cu rețeaua neuronală ControlNet.

Scurgeri de Qualcomm Snapdragon 8 Gen 3. — Imagine: MSPoweruser

Producătorii de hardware mobil se orientează puternic către AI. Google, de exemplu, și-a reînnoit cipurile Tensor, echipându-le să gestioneze multitudinea de funcții AI pe care cele mai recente telefoane Pixel le execută local, ocolind nevoia de procesare în cloud. În mod similar, Apple și-a îmbunătățit jocul cu A17 Pro SoC, îmbunătățindu-și priceperea AI.

Apariția cipurilor capabile de inteligență artificială în dispozitivele de consum anunță o eră transformatoare în tehnologie. Aceste procesoare avansate, concepute pentru a rula modele complexe de IA la nivel local, sugerează un viitor plin de posibilități, de la asistenți personalizați de chatbot și experiențe de joc hiperrealiste până la monitorizarea în timp real a sănătății și interfețe adaptive pentru utilizator.

Promisiunea unei procesări mai rapide, cuplată cu o personalizare mai bună și mai multă confidențialitate, poziționează aceste cipuri drept piatra de temelie a unui viitor în care dispozitivele noastre nu sunt doar inteligente, ci sunt adaptate intuitiv la nevoile și preferințele noastre.

Kent Kersei is the CEO of Invocă AI, a company at the forefront of AI image generation and harnessing the power of Stable Diffusion. El a spus decriptaţi că rularea AI pe un dispozitiv, mai degrabă decât în cloud, vine cu o mulțime de avantaje.

„Computarea bazată pe cloud este o opțiune excelentă pentru întreprinderile mai mari, cu toate acestea, pentru persoanele care doresc să creeze conținut, AI pe dispozitiv oferă o alternativă mai accesibilă, personalizată și privată”, a spus el. El a subliniat, de asemenea, potențialul abordării Apple în implementarea unui set mai mare de memorie unificată, sugerând un viitor cu un asistent LLM local puternic în loc de un Siri bazat pe cloud, de exemplu.

However, as powerful as this new chip is, Invoke has no plans to port its app to Android or iOS devices, Kersei said.

„Soluția noastră comercială este de obicei folosită pentru procese de flux de lucru mai complexe”, a spus el. „Deși nu avem planuri imediate pentru o aplicație locală pentru Android OSS, observăm cu atenție traiectoria tiparelor de utilizare pentru reclame și apariția tehnologiei de ultimă oră care sprijină implementarea mobilă.”

În acest moment, opțiunea de bază pentru generarea de imagini locale este aplicația Draw Things pe iOS. Nu există nicio opțiune comparabilă pentru utilizatorii de Android.

Kersei was optimistic about the ripple effects of Qualcomm’s new chip in the broader tech ecosystem.

„Oferirea acestui cip pentru AI pe dispozitiv îmbunătățește capabilitățile care pot fi implementate pe dispozitivele mobile”, a explicat el, adăugând că se așteaptă să vadă dezvoltatorii de aplicații care încorporează capabilități AI la cerere în serviciile lor, pe măsură ce hardware-ul devine mai capabil.

Yet, every innovation has its challenges. Kersei pointed to potential issues with distributing model weights to end devices, especially for proprietary models like GPT-3 or GPT-4, which are huge and not open source.

“This can be non-viable for a proprietary model where managing intellectual property is paramount,” he said. However, Kersei was quick to spotlight the potential of open-source models like Stable Diffusion or Mistral7B as potential game-changers.

As raportate de decriptaţi, Mistral7B este un model ușor, antrenat pe 7 miliarde de parametri, care a făcut furori în comunitatea AI. decriptaţi și-a testat răspunsurile împotriva altor concurenți mai puternici, cum ar fi LlaMA și Stable Beluga 2, și le-a depășit rezultatele. Pentru context, în timp ce Mistral 7B funcționează pe 7 miliarde de parametri, GPT-4 se mândrește cu 1.7 trilioane de parametri.

Snapdragon 8 Gen 3 de la Qualcomm este mai mult decât un microcip; este un prevestitor al unui viitor mobil centrat pe AI. Cu lideri din industrie precum Qualcomm, Google și Apple conducând drumul, este doar o chestiune de timp până când asistentul dvs. poate să vă păstreze toate secretele și totuși să fie util în a răspunde la întrebări și a îndeplini sarcini.