Kas keegi on tõesti üllatunud, et Apple arendab seadmes AI-d?

Taasavaldanud Platon

järgijaid: 0

kommentaar Apple'i jõupingutused lisada oma iSeadmetele generatiivne tehisintellekt ei tohiks kedagi üllatada, kuid Cupertino tehnoloogia olemasolevad kasutusviisid ja mobiilse riistvara piirangud viitavad sellele, et see ei ole lähitulevikus iOS-i suur funktsioon.

Apple ei ole liitunud hiljutise generatiivse tehisintellekti suurendamise lainega, isegi üldiselt vältides oma hiljutistes peaettekannetes termineid "AI" või "tehisintellekt", võrreldes paljude ettevõtetega. Ometi on masinõpe olnud ja on jätkuvalt Apple'i võtmevõime – enamasti taustal kasutajakogemuse peente täiustuste teenistuses.

Apple'i AI kasutamine piltide haldamiseks on üks näide taustal töötavast tehnoloogiast. Kui iThings jäädvustab fotosid, töötavad masinõppealgoritmid objektide tuvastamiseks ja märgistamiseks, optilise märgituvastuse käivitamiseks ja linkide lisamiseks.

Aastal 2024 selline nähtamatu AI seda ei vähenda. Apple'i konkurendid reklaamivad generatiivset tehisintellekti kui iga seadme ja rakenduse hädavajalikku võimalust. Vastavalt hiljutisele Financial Times aru, Apple on vaikselt ostnud tehisintellekti ettevõtteid ja arendanud oma suuri keelemudeleid, et tagada nende toimimine.

Apple'i riistvara eelis

Apple'i kodupruulitud räni närvitöötlusüksused (NPU-d) käsitlevad selle olemasolevaid AI-rakendusi. Apple on kasutanud kiirendeid, mida ta nimetab "närvimootoriteks", alates 2017. aasta kiibisüsteemi A11 debüüdist ja kasutab neid väiksemate masinõppe töökoormuste käsitlemiseks, et vabastada seadme protsessor ja GPU muudeks töödeks.

Apple'i NPU-d on eriti võimsad. A17 Pro leitud iPhone 15 Pro on võimeline lükkama 35 TOPSi, mis on kaks korda suurem kui tema eelkäijal ja umbes kaks korda rohkem mõnedest NPU-dest, mida Intel ja AMD pakuvad arvutites kasutamiseks.

Qualcommi uusimad Snapdragoni kiibid on NPU jõudluse poolest Apple'i omadega paremad. Nagu Apple, on ka Qualcommil aastatepikkune NPU kogemus mobiilseadmetes. AMD ja Intel on selles valdkonnas suhteliselt uued.

Apple ei ole jaganud kiibi GPU ujukoma või täisarvu jõudlust, kuigi ta on reklaaminud oma meisterlikkust mängude, nagu Resident Evil 4 Remake ja Assassin's Creed Mirage, käivitamisel. See viitab sellele, et arvutusvõimsus ei ole platvormil suuremate AI-mudelite käitamiseks piirav tegur.

Seda toetab veelgi asjaolu, et Apple'i M-seeria räni, mida kasutatakse selle Maci ja iPadi liinides, on osutunud eriti tõhusaks tehisintellekti järelduste töökoormuste käitamiseks. Meie testimisel oli piisava mäluga – sattusime hätta alla 16 GB-ga –, nüüdseks kolm aastat vana M1 Macbook Air oli enam kui võimeline töötama Llama 2 7B 8-bitise täpsusega ja oli 4-bitise puhul veelgi kiirem. mudeli kvantiseeritud versioon. Muide, kui soovite seda oma M1 Macis proovida, Ollama.ai muudab Llama 2 jooksmise imelihtsaks.

Kui Apple võib olla sunnitud riistvaralisi järeleandmisi tegema, on mälu.

Üldiselt vajavad AI-mudelid 8-bitise täpsusega töötades iga miljardi parameetri jaoks umbes gigabaiti mälu. Seda saab poole võrra vähendada, vähendades täpsust madalamale, näiteks Int-4-le, või töötades välja väiksemad kvantiseeritud mudelid.

Llama 2 7B-st on saanud tehisintellekti arvutite ja nutitelefonide tavaline võrdluspunkt, kuna see on suhteliselt väike ja arvutusnõuded väikeste partiide käitamisel. 4-bitise kvantiseerimise abil saab mudeli nõudeid vähendada 3.5 GB-ni.

Kuid isegi iPhone 8 Pro 15 GB muutmälu korral kahtlustame, et Apple'i järgmise põlvkonna telefonid võivad vajada rohkem mälu või mudelid peavad olema väiksemad ja sihipärasemad. See on tõenäoliselt üks põhjusi, miks Apple otsustab välja töötada oma mudelid, mitte kasutada selliseid mudeleid nagu Stable Diffusion või Llama 2, et töötada Int-4-s, nagu oleme Qualcommist näinud.

Samuti on mõned tõendid, mis viitavad sellele, et Apple võis mäluprobleemist mööda hiilida. Nagu märkas Financial Times, detsembris avaldasid Apple'i teadlased [pDF] paber, mis demonstreerib võimet käivitada LLM-e seadmes välkmälu abil.

Oodake konservatiivsemat lähenemist AI-le

Kui Apple tutvustab tehisintellekti funktsioone oma töölaua- ja mobiiliplatvormidel, eeldame, et läheneb suhteliselt konservatiivsele lähenemisele.

Siri muutmine millekski, mida inimesed ei pea vajalikuks rääkida nagu eelkooliealine laps, näib olevat ilmselge koht alustamiseks. See võib tähendada, et LLM-ile tuleb anda sisendi sõelumine vormile, mida Siri hõlpsamini mõistab, et robot saaks paremaid vastuseid pakkuda.

Siri võib muutuda kergemini segadusse, kui sõnastate päringu ringteel, mille tulemuseks on tõhusamad vastused.

Teoreetiliselt peaks sellel olema paar eelist. Esiteks peaks Apple saama hakkama palju väiksema mudeli kasutamisega kui Llama 2. Teiseks peaks see suures osas vältima probleemi, et LLM annab ekslikke vastuseid.

Võime eksida, kuid Apple on viimaste tehnoloogiate kasutuselevõtuga hiljaks jäänud, kuid on leidnud edu siis, kui teised on ebaõnnestunud, võttes aega funktsioonide täiustamiseks ja lihvimiseks, kuni need on tegelikult kasulikud.

Ja mis see väärt on, generatiivne AI ei ole veel tõestanud, et see on hitt: Microsofti suur vestlusrobot annab elu sissepuhumiseks kellegi lemmikotsingumootorile Bing. pole tõlkinud turuosa oluliseks kasvuks.

Apple võttis samal ajal krooni 2024. aasta omaks parim nutitelefonide müüja juurutades ainult nähtamatut tehisintellekti. ®