Είναι κανείς πραγματικά έκπληκτος που η Apple αναπτύσσει AI στη συσκευή;

Σχόλιο Οι προσπάθειες της Apple να προσθέσει γενετική τεχνητή νοημοσύνη στα iDevices της δεν πρέπει να εκπλήσσουν κανέναν, αλλά οι υπάρχουσες χρήσεις της τεχνολογίας από το Cupertino και οι περιορισμοί του υλικού για κινητά υποδηλώνουν ότι δεν θα είναι ένα μεγάλο χαρακτηριστικό του iOS στο εγγύς μέλλον.

Η Apple δεν έχει ενταχθεί στο πρόσφατο κύμα της παραγωγικής ενίσχυσης της τεχνητής νοημοσύνης, αποφεύγοντας ακόμη και γενικά τους όρους «AI» ή «Τεχνητή Νοημοσύνη» στις πρόσφατες βασικές παρουσιάσεις της σε σύγκριση με πολλές επιχειρήσεις. Ωστόσο, η μηχανική εκμάθηση ήταν, και συνεχίζει να είναι, μια βασική δυνατότητα για την Apple – κυρίως στο παρασκήνιο στην υπηρεσία ανεπαίσθητων βελτιώσεων στην εμπειρία χρήστη.

Η χρήση της τεχνητής νοημοσύνης από την Apple για το χειρισμό εικόνων είναι ένα παράδειγμα της τεχνολογίας στην εργασία στο παρασκήνιο. Όταν το iThings καταγράφει φωτογραφίες, οι αλγόριθμοι μηχανικής εκμάθησης λειτουργούν για τον εντοπισμό και την προσθήκη ετικετών σε θέματα, την εκτέλεση οπτικής αναγνώρισης χαρακτήρων και την προσθήκη συνδέσμων .

Το 2024 αυτού του είδους η αόρατη τεχνητή νοημοσύνη δεν το κόβει. Οι αντίπαλοι της Apple διαφημίζουν τη γενετική τεχνητή νοημοσύνη ως βασική δυνατότητα για κάθε συσκευή και εφαρμογή. Σύμφωνα με πρόσφατο Financial Times αναφέρουν, η Apple αγοράζει αθόρυβα εταιρείες τεχνητής νοημοσύνης και αναπτύσσει τα δικά της μεγάλα μοντέλα γλώσσας για να διασφαλίσει ότι μπορεί να προσφέρει.

Το πλεονέκτημα υλικού της Apple

Οι μονάδες νευρωνικής επεξεργασίας (NPU) στο homebrew silicon της Apple χειρίζονται τις υπάρχουσες υλοποιήσεις τεχνητής νοημοσύνης. Η Apple έχει χρησιμοποιήσει τους επιταχυντές, τους οποίους αποκαλεί "Neural Engines" από το ντεμπούτο του A2017 system-on-chip του 11 και τους χρησιμοποιεί για να χειριστεί μικρότερους φόρτους εργασίας μηχανικής εκμάθησης για να ελευθερώσει τη CPU και την GPU μιας συσκευής για άλλες δουλειές.

Τα NPU της Apple είναι ιδιαίτερα ισχυρά. Το A17 Pro που βρέθηκε στο iPhone 15 Pro είναι ικανό να πιέσει 35 TOPS, διπλάσιο από αυτό του προκατόχου του, και περίπου διπλάσιο από αυτό ορισμένων NPU Η Intel και η AMD προσφέρουν για χρήση σε υπολογιστές.

Τα τελευταία τσιπ Snapdragon της Qualcomm είναι ακριβώς εκεί πάνω με αυτά της Apple όσον αφορά την απόδοση NPU. Όπως η Apple, η Qualcomm έχει επίσης πολυετή εμπειρία NPU σε κινητές συσκευές. Η AMD και η Intel είναι σχετικά νέα στον τομέα.

Η Apple δεν έχει μοιραστεί την απόδοση κινητής υποδιαστολής ή ακέραιου αριθμού για τη GPU του τσιπ, αν και έχει διαφημίσει τα δυνατά παιχνίδια τρεξίματός της, όπως το Resident Evil 4 Remake και το Assassin's Creed Mirage. Αυτό υποδηλώνει ότι η υπολογιστική ισχύς δεν είναι ο περιοριστικός παράγοντας για την εκτέλεση μεγαλύτερων μοντέλων AI στην πλατφόρμα.

Αυτό υποστηρίζει περαιτέρω το γεγονός ότι το πυρίτιο της σειράς M της Apple, που χρησιμοποιείται στις σειρές Mac και iPad, έχει αποδειχθεί ιδιαίτερα ισχυρό για την εκτέλεση φόρτου εργασίας συμπερασμάτων AI. Στις δοκιμές μας, δεδομένης της επαρκούς μνήμης - αντιμετωπίσαμε προβλήματα με λιγότερα από 16 GB - ένα τρίχρονο τώρα M1 Macbook Air ήταν περισσότερο από ικανό να τρέξει το Llama 2 7B με ακρίβεια 8 bit και ήταν ακόμη πιο γρήγορο με ένα 4 bit κβαντισμένη έκδοση του μοντέλου. Παρεμπιπτόντως, αν θέλετε να το δοκιμάσετε στο M1 Mac σας, Ολάμα.αι κάνει το τρέξιμο του Llama 2 παιχνιδάκι.

Εκεί που η Apple μπορεί να αναγκαστεί να κάνει παραχωρήσεις υλικού είναι η μνήμη.

Σε γενικές γραμμές, τα μοντέλα τεχνητής νοημοσύνης χρειάζονται περίπου ένα gigabyte μνήμης για κάθε δισεκατομμύριο παραμέτρους, όταν λειτουργούν με ακρίβεια 8 bit. Αυτό μπορεί να μειωθεί στο μισό είτε με μείωση της ακρίβειας, κάτι σαν το Int-4, είτε με την ανάπτυξη μικρότερων, κβαντισμένων μοντέλων.

Το Llama 2 7B έχει γίνει κοινό σημείο αναφοράς για υπολογιστές τεχνητής νοημοσύνης και smartphone λόγω των σχετικά ελάχιστων απαιτήσεων αποτύπωσης και υπολογισμού κατά την εκτέλεση μικρών μεγεθών παρτίδων. Χρησιμοποιώντας κβαντισμό 4 bit, οι απαιτήσεις του μοντέλου μπορούν να μειωθούν στα 3.5 GB.

Αλλά ακόμα και με 8 GB μνήμης RAM στο iPhone 15 Pro, υποπτευόμαστε ότι η επόμενη γενιά τηλεφώνων της Apple μπορεί να χρειάζεται περισσότερη μνήμη ή τα μοντέλα θα πρέπει να είναι μικρότερα και πιο στοχευμένα. Αυτός είναι πιθανότατα ένας από τους λόγους που η Apple επιλέγει να αναπτύξει τα δικά της μοντέλα αντί να επιλέγει μοντέλα όπως το Stable Diffusion ή το Llama 2 για να εκτελούνται στο Int-4, όπως έχουμε δει από την Qualcomm.

Υπάρχουν επίσης ορισμένα στοιχεία που υποδηλώνουν ότι η Apple μπορεί να έχει βρει έναν τρόπο να αντιμετωπίσει το πρόβλημα της μνήμης. Όπως εντόπισε η Financial Times, τον Δεκέμβριο, οι ερευνητές της Apple δημοσίευσαν [PDF] ένα χαρτί που δείχνει την ικανότητα εκτέλεσης LLM στη συσκευή χρησιμοποιώντας μνήμη flash.

Αναμένετε μια πιο συντηρητική προσέγγιση στο AI

Όταν η Apple εισάγει τη λειτουργικότητα AI στις πλατφόρμες της για επιτραπέζιους υπολογιστές και κινητές συσκευές, αναμένουμε να ακολουθήσουμε μια σχετικά συντηρητική προσέγγιση.

Η μετατροπή του Siri σε κάτι που οι άνθρωποι δεν νιώθουν ότι χρειάζεται να μιλήσουν όπως ένα παιδί προσχολικής ηλικίας φαίνεται προφανές μέρος για να ξεκινήσετε. Κάνοντας αυτό θα μπορούσε να σημαίνει ότι δίνετε σε ένα LLM τη δουλειά να αναλύει τα δεδομένα σε μια φόρμα που μπορεί να κατανοήσει ευκολότερα το Siri, ώστε το bot να μπορεί να παρέχει καλύτερες απαντήσεις.

Το Siri θα μπορούσε να μπερδευτεί λιγότερο εύκολα εάν διατυπώσετε ένα ερώτημα με κυκλικό τρόπο, με αποτέλεσμα πιο αποτελεσματικές απαντήσεις.

Θεωρητικά, αυτό θα πρέπει να έχει μερικά οφέλη. Το πρώτο είναι ότι η Apple θα πρέπει να μπορεί να ξεφύγει από τη χρήση ενός πολύ μικρότερου μοντέλου από κάτι σαν το Llama 2. Το δεύτερο, είναι ότι θα πρέπει να αποφύγει σε μεγάλο βαθμό το ζήτημα του LLM που παράγει λανθασμένες απαντήσεις.

Μπορεί να κάνουμε λάθος, αλλά η Apple έχει ιστορικό καθυστερήσεων στην εφαρμογή των πιο πρόσφατων τεχνολογιών, αλλά στη συνέχεια βρίσκει επιτυχία εκεί που άλλοι απέτυχαν, αφιερώνοντας χρόνο για να βελτιώσουν και να γυαλίσουν τις λειτουργίες μέχρι να γίνουν πραγματικά χρήσιμες.

Και για ό,τι αξίζει, η γενετική τεχνητή νοημοσύνη δεν έχει ακόμη αποδείξει ότι είναι επιτυχία: το μεγάλο στοίχημα chatbot της Microsoft για να δώσει ζωή στην αγαπημένη μηχανή αναζήτησης κανενός Bing δεν έχει μεταφράσει σε σημαντική αύξηση μεριδίου αγοράς.

Η Apple, εν τω μεταξύ, πήρε το στέμμα ως το 2024 κορυφαίος πωλητής smartphone ενώ αναπτύσσει μόνο αόρατο AI. ®

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://go.theregister.com/feed/www.theregister.com/2024/01/25/apple_generative_ai/