क्या कोई सचमुच आश्चर्यचकित है कि Apple ऑन-डिवाइस AI विकसित कर रहा है?

क्या कोई सचमुच आश्चर्यचकित है कि Apple ऑन-डिवाइस AI विकसित कर रहा है?

समय टिकट: 24 जनवरी, 2024 शाम 8:30 बजे
स्रोत नोड: 3083594

टिप्पणी अपने iDevices में जेनरेटिव AI जोड़ने के Apple के प्रयासों से किसी को आश्चर्य नहीं होना चाहिए, लेकिन क्यूपर्टिनो के तकनीक के मौजूदा उपयोग और मोबाइल हार्डवेयर की बाधाओं से पता चलता है कि यह निकट भविष्य में iOS की एक बड़ी विशेषता नहीं होगी।

ऐप्पल जेनेरिक एआई बूस्टरिज़्म की हालिया लहर में शामिल नहीं हुआ है, यहां तक ​​​​कि आम तौर पर कई व्यवसायों की तुलना में अपनी हालिया मुख्य प्रस्तुतियों में "एआई" या "आर्टिफिशियल इंटेलिजेंस" शब्दों से परहेज करता है। फिर भी मशीन लर्निंग ऐप्पल के लिए एक प्रमुख क्षमता रही है और बनी हुई है - ज्यादातर उपयोगकर्ता अनुभव में सूक्ष्म सुधार की सेवा की पृष्ठभूमि में।

छवियों को संभालने के लिए Apple द्वारा AI का उपयोग पृष्ठभूमि में काम करने वाली तकनीक का एक उदाहरण है। जब iThings फ़ोटो कैप्चर करता है, तो मशीन लर्निंग एल्गोरिदम विषयों को पहचानने और टैग करने, ऑप्टिकल कैरेक्टर रिकग्निशन चलाने और लिंक जोड़ने का काम करता है।

2024 में उस तरह का अदृश्य AI इसमें कटौती नहीं करेगा। ऐप्पल के प्रतिद्वंद्वी जेनरेटिव एआई को हर डिवाइस और एप्लिकेशन के लिए एक आवश्यक क्षमता के रूप में पेश कर रहे हैं। एक ताजा खबर के मुताबिक फाइनेंशियल टाइम्स रिपोर्ट, Apple चुपचाप AI कंपनियों को खरीद रहा है और अपने स्वयं के बड़े भाषा मॉडल विकसित कर रहा है ताकि यह सुनिश्चित हो सके कि यह वितरित हो सके।

Apple का हार्डवेयर लाभ

Apple के होमब्रेव सिलिकॉन में न्यूरल प्रोसेसिंग इकाइयाँ (NPUs) इसके मौजूदा AI कार्यान्वयन को संभालती हैं। Apple ने 2017 के A11 सिस्टम-ऑन-चिप की शुरुआत के बाद से एक्सेलेरेटर को नियोजित किया है, जिसे वह "न्यूरल इंजन" कहता है और डिवाइस के सीपीयू और जीपीयू को अन्य कामों के लिए मुक्त करने के लिए छोटी मशीन लर्निंग वर्कलोड को संभालने के लिए उनका उपयोग करता है।

Apple के NPU विशेष रूप से शक्तिशाली हैं। A17 प्रो में पाया गया iPhone 15 प्रो 35 टॉप्स को आगे बढ़ाने में सक्षम है, जो अपने पूर्ववर्ती से दोगुना है, और लगभग दो बार कि कुछ एनपीयू इंटेल और एएमडी पीसी में उपयोग के लिए ऑफर करते हैं।

क्वालकॉम के नवीनतम स्नैपड्रैगन चिप्स एनपीयू प्रदर्शन के मामले में एप्पल के बराबर हैं। Apple की तरह, क्वालकॉम के पास भी मोबाइल उपकरणों में वर्षों का NPU अनुभव है। एएमडी और इंटेल इस क्षेत्र में अपेक्षाकृत नए हैं।

ऐप्पल ने चिप के जीपीयू के लिए फ़्लोटिंग पॉइंट या पूर्णांक प्रदर्शन साझा नहीं किया है, हालांकि इसने रेजिडेंट ईविल 4 रीमेक और असैसिन्स क्रीड मिराज जैसे गेम चलाने की अपनी क्षमता का प्रचार किया है। इससे पता चलता है कि प्लेटफ़ॉर्म पर बड़े AI मॉडल चलाने के लिए कम्प्यूटेशनल शक्ति सीमित कारक नहीं है।

इसका समर्थन करने वाला तथ्य यह है कि ऐप्पल की एम-सीरीज़ सिलिकॉन, जो इसके मैक और आईपैड लाइनों में उपयोग की जाती है, एआई अनुमान वर्कलोड चलाने के लिए विशेष रूप से शक्तिशाली साबित हुई है। हमारे परीक्षण में, पर्याप्त मेमोरी दी गई - हम 16 जीबी से कम के साथ परेशानी में पड़ गए - अब तीन साल पुराना एम1 मैकबुक एयर 2-बिट परिशुद्धता पर लामा 7 8बी चलाने में सक्षम था और 4-बिट के साथ और भी तेज था। मॉडल का परिमाणित संस्करण। वैसे, यदि आप इसे अपने M1 Mac पर आज़माना चाहते हैं, Ollama.ai लामा 2 को चलाना आसान बनाता है।

जहां Apple को मेमोरी के साथ हार्डवेयर रियायतें देने के लिए मजबूर किया जा सकता है।

सामान्यतया, 8-बिट परिशुद्धता पर चलते समय, AI मॉडल को प्रत्येक अरब पैरामीटर के लिए लगभग एक गीगाबाइट मेमोरी की आवश्यकता होती है। इसे या तो कम परिशुद्धता, जैसे कि Int-4, या छोटे, परिमाणित मॉडल विकसित करके आधा किया जा सकता है।

छोटे बैच आकारों को चलाने के दौरान अपेक्षाकृत कम पदचिह्न और गणना आवश्यकताओं के कारण लामा 2 7बी एआई पीसी और स्मार्टफोन के लिए एक सामान्य संदर्भ बिंदु बन गया है। 4-बिट परिमाणीकरण का उपयोग करके, मॉडल की आवश्यकताओं को 3.5GB तक कम किया जा सकता है।

लेकिन iPhone 8 Pro में 15 जीबी रैम के साथ भी, हमें संदेह है कि Apple के अगली पीढ़ी के फोन को अधिक मेमोरी की आवश्यकता हो सकती है, या मॉडल को छोटे और अधिक लक्षित करने की आवश्यकता होगी। यह संभवतः उन कारणों में से एक है कि Apple Int-2 पर चलने के लिए स्टेबल डिफ्यूजन या लामा 4 जैसे मॉडलों को अपनाने के बजाय अपने स्वयं के मॉडल विकसित करने का विकल्प चुन रहा है, जैसा कि हमने क्वालकॉम से देखा है।

यह सुझाव देने के लिए कुछ सबूत भी हैं कि Apple ने मेमोरी समस्या का समाधान ढूंढ लिया है। जैसा कि देखा गया है फाइनेंशियल टाइम्स, दिसंबर में वापस, Apple शोधकर्ताओं ने प्रकाशित किया [पीडीएफ] फ़्लैश मेमोरी का उपयोग करके डिवाइस पर एलएलएम चलाने की क्षमता प्रदर्शित करने वाला एक पेपर।

एआई के प्रति अधिक रूढ़िवादी दृष्टिकोण की अपेक्षा करें

जब Apple अपने डेस्कटॉप और मोबाइल प्लेटफ़ॉर्म पर AI कार्यक्षमता पेश करता है, तो हम अपेक्षाकृत रूढ़िवादी दृष्टिकोण अपनाने की उम्मीद करते हैं।

सिरी को ऐसी चीज़ में बदलना, जिससे लोगों को प्री-स्कूल बच्चे की तरह बात करने की ज़रूरत महसूस न हो, शुरुआत करने के लिए एक स्पष्ट जगह लगती है। ऐसा करने का मतलब यह हो सकता है कि एलएलएम को इनपुट को ऐसे रूप में पार्स करने का काम दिया जाए जिसे सिरी अधिक आसानी से समझ सके, ताकि बॉट बेहतर उत्तर दे सके।

यदि आप किसी प्रश्न को घुमा-फिरा कर बोलते हैं, तो सिरी कम आसानी से भ्रमित हो सकता है, जिसके परिणामस्वरूप अधिक प्रभावी प्रतिक्रियाएँ मिल सकती हैं।

सिद्धांत रूप में, इसके कुछ लाभ होने चाहिए। पहला यह कि ऐप्पल को लामा 2 जैसी किसी चीज़ की तुलना में बहुत छोटे मॉडल का उपयोग करके बच निकलने में सक्षम होना चाहिए। दूसरा, यह है कि उसे एलएलएम द्वारा गलत प्रतिक्रिया उत्पन्न करने के मुद्दे से काफी हद तक बचना चाहिए।

हम गलत हो सकते हैं, लेकिन Apple का नवीनतम तकनीकों को लागू करने में देर करने का ट्रैक रिकॉर्ड है, लेकिन फिर सुविधाओं को परिष्कृत करने और चमकाने में समय लगाकर सफलता प्राप्त करना, जब तक कि वे वास्तव में उपयोगी न हों।

और इसके लायक क्या है, जेनरेटिव एआई ने अभी तक यह साबित नहीं किया है कि यह एक हिट है: माइक्रोसॉफ्ट के बड़े चैटबॉट ने किसी के भी पसंदीदा खोज इंजन बिंग में जान फूंकने का दांव नहीं लगाया है। अनुवाद नहीं किया है एक प्रमुख बाजार हिस्सेदारी में वृद्धि।

इस बीच, Apple ने 2024 का ताज अपने नाम कर लिया शीर्ष स्मार्टफोन विक्रेता केवल अदृश्य AI को तैनात करते समय। ®

समय टिकट:

से अधिक रजिस्टर