Czy ktoś naprawdę jest zaskoczony, że Apple rozwija sztuczną inteligencję na urządzeniach?

Komentarz Wysiłki Apple mające na celu dodanie generatywnej sztucznej inteligencji do swoich urządzeń iDevices nie powinny nikogo dziwić, ale istniejące zastosowania tej technologii w Cupertino oraz ograniczenia sprzętu mobilnego sugerują, że nie będzie to duża funkcja iOS w najbliższej przyszłości.

Apple nie dołączyło do niedawnej fali wspierania generatywnej sztucznej inteligencji, nawet ogólnie unikając terminów „sztuczna inteligencja” lub „sztuczna inteligencja” w swoich ostatnich prezentacjach głównych w porównaniu z wieloma firmami. Jednak uczenie maszynowe było i nadal jest kluczową funkcją Apple – głównie działającą w tle w celu subtelnych ulepszeń komfortu użytkownika.

Wykorzystanie sztucznej inteligencji przez firmę Apple do obsługi obrazów to jeden z przykładów technologii działającej w tle. Kiedy iThings robi zdjęcia, algorytmy uczenia maszynowego rozpoczynają pracę, identyfikując i oznaczając obiekty, uruchamiając optyczne rozpoznawanie znaków i dodając łącza.

W 2024 r. tego rodzaju niewidzialna sztuczna inteligencja nie wystarczy. Rywale Apple zachwalają generatywną sztuczną inteligencję jako niezbędną funkcję każdego urządzenia i aplikacji. Według niedawnego Financial Times raportApple po cichu kupuje firmy zajmujące się sztuczną inteligencją i opracowuje własne, duże modele językowe, aby zapewnić ich dostarczanie.

Przewaga sprzętowa Apple

Jednostki przetwarzania neuronowego (NPU) w domowym krzemie Apple obsługują istniejące implementacje sztucznej inteligencji. Firma Apple korzysta z akceleratorów, które nazywa „silnikami neuronowymi” od debiutu układu na chipie A2017 z 11 r. i wykorzystuje je do obsługi mniejszych obciążeń związanych z uczeniem maszynowym, aby zwolnić procesor i kartę graficzną urządzenia do innych zadań.

Jednostki NPU Apple są szczególnie wydajne. A17 Pro znaleziony w iPhone 15 Pro jest w stanie wypchnąć 35 TOPS, czyli dwukrotnie więcej niż jego poprzednik, i około dwa razy tyle niektórych jednostek NPU oferowanych przez Intel i AMD do użytku w komputerach PC.

Najnowsze chipy Snapdragon firmy Qualcomm dorównują procesorom Apple pod względem wydajności NPU. Podobnie jak Apple, również Qualcomm ma wieloletnie doświadczenie w zakresie NPU w urządzeniach mobilnych. AMD i Intel są stosunkowo nowe w tej dziedzinie.

Apple nie udostępnił informacji o wydajności procesora graficznego w liczbach zmiennoprzecinkowych ani całkowitych, chociaż zachwalał jego wydajność w grach, takich jak Resident Evil 4 Remake i Assassin's Creed Mirage. Sugeruje to, że moc obliczeniowa nie jest czynnikiem ograniczającym uruchamianie większych modeli sztucznej inteligencji na platformie.

Dodatkowym potwierdzeniem tej tezy jest fakt, że krzem firmy Apple z serii M, stosowany w komputerach Mac i iPadach, okazał się szczególnie skuteczny w obsłudze obciążeń wnioskowania AI. W naszych testach, biorąc pod uwagę odpowiednią ilość pamięci — mieliśmy problemy z mniej niż 16 GB — trzyletni Macbook Air M1 był więcej niż zdolny do uruchomienia Lamy 2 7B z 8-bitową precyzją, a przy 4-bitowej precyzji był jeszcze szybszy. skwantyzowana wersja modelu. Przy okazji, jeśli chcesz wypróbować tę opcję na swoim komputerze Mac M1, Ollama.ai sprawia, że ​​uruchamianie Llama 2 jest dziecinnie proste.

Apple może być zmuszony do ustępstw sprzętowych w przypadku pamięci.

Ogólnie rzecz biorąc, modele AI potrzebują około gigabajta pamięci na każdy miliard parametrów, jeśli działają z 8-bitową precyzją. Można to zmniejszyć o połowę, obniżając precyzję, na przykład Int-4, lub opracowując mniejsze, skwantowane modele.

Lama 2 7B stała się powszechnym punktem odniesienia dla komputerów stacjonarnych i smartfonów ze sztuczną inteligencją ze względu na stosunkowo niewielkie wymagania dotyczące zajmowanej powierzchni i obliczeń w przypadku małych partii. Dzięki 4-bitowej kwantyzacji wymagania modelu można zmniejszyć do 3.5 GB.

Jednak nawet przy 8 GB pamięci RAM w iPhonie 15 Pro podejrzewamy, że telefony Apple nowej generacji mogą potrzebować więcej pamięci lub modele będą musiały być mniejsze i bardziej ukierunkowane. Jest to prawdopodobnie jeden z powodów, dla których Apple woli opracowywać własne modele, zamiast dokooptowywać modele takie jak Stable Diffusion lub Llama 2 do pracy w Int-4, jak widzieliśmy na przykładzie Qualcomma.

Istnieją również dowody sugerujące, że Apple mogło znaleźć sposób na obejście problemu pamięci. Jak zauważył Financial Times, jeszcze w grudniu badacze Apple opublikowali [PDF] artykuł demonstrujący możliwość uruchamiania LLM na urządzeniu przy użyciu pamięci flash.

Spodziewaj się bardziej konserwatywnego podejścia do sztucznej inteligencji

Kiedy Apple wprowadzi funkcjonalność sztucznej inteligencji na swoich platformach stacjonarnych i mobilnych, spodziewamy się, że przyjmie stosunkowo konserwatywne podejście.

Przekształcenie Siri w coś, o czym ludzie nie chcą rozmawiać jak dziecko w wieku przedszkolnym, wydaje się oczywistym punktem wyjścia. Może to oznaczać powierzenie LLM zadania polegającego na przetwarzaniu danych wejściowych w formularz, który Siri będzie łatwiej zrozumieć, aby bot mógł dostarczać lepsze odpowiedzi.

Siri może zostać mniej zdezorientowana, jeśli sformułowasz zapytanie w okrężny sposób, co spowoduje skuteczniejsze odpowiedzi.

Teoretycznie powinno to mieć kilka zalet. Po pierwsze, Apple powinno móc sobie pozwolić na używanie znacznie mniejszego modelu niż coś takiego jak Lama 2. Po drugie, powinno w dużej mierze uniknąć problemu błędnych odpowiedzi LLM.

Możemy się mylić, ale Apple ma na swoim koncie spóźnienia z wdrażaniem najnowszych technologii, ale potem odnosił sukcesy tam, gdzie innym się nie udało, poświęcając czas na udoskonalanie i udoskonalanie funkcji, aż staną się one rzeczywiście przydatne.

A jeśli to ma jakiekolwiek znaczenie, generatywna sztuczna inteligencja jeszcze nie udowodniła, że ​​jest hitem: wielki chatbot Microsoftu stawia na tchnięcie życia w niczyją ulubioną wyszukiwarkę Bing nie przetłumaczył do znacznego wzrostu udziału w rynku.

Tymczasem Apple zdobyło koronę roku 2024 czołowy dostawca smartfonów wdrażając tylko niewidzialną sztuczną inteligencję. ®

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://go.theregister.com/feed/www.theregister.com/2024/01/25/apple_generative_ai/