Συγγραφέας: Vitalik Buterin via the Ιστολόγιο Vitalik Buterin
Ιδιαίτερες ευχαριστίες στις ομάδες Worldcoin και Modulus Labs, Xinyuan Sun, Martin Koeppelmann και Illia Polosukhin για τα σχόλια και τη συζήτηση.
Πολλοί άνθρωποι όλα αυτά τα χρόνια μου έχουν κάνει μια παρόμοια ερώτηση: ποια είναι τα διασταυρώσεις μεταξύ crypto και AI που θεωρώ ότι είναι η πιο γόνιμη; Είναι μια εύλογη ερώτηση: η κρυπτογράφηση και η τεχνητή νοημοσύνη είναι οι δύο κύριες τάσεις της βαθιάς τεχνολογίας (λογισμικού) της περασμένης δεκαετίας, και είναι σαν εκεί πρέπει είναι ένα είδος σύνδεσης μεταξύ των δύο. Είναι εύκολο να καταλήξουμε σε συνέργειες σε επιφανειακό επίπεδο ατμόσφαιρας: η αποκέντρωση κρυπτογράφησης μπορεί εξισορροπήστε τη συγκέντρωση AI, η τεχνητή νοημοσύνη είναι αδιαφανής και η κρυπτογράφηση φέρνει διαφάνεια, η τεχνητή νοημοσύνη χρειάζεται δεδομένα και οι αλυσίδες μπλοκ είναι καλές για την αποθήκευση και την παρακολούθηση δεδομένων. Αλλά με τα χρόνια, όταν οι άνθρωποι μου ζητούσαν να σκάψω ένα επίπεδο βαθύτερα και να μιλήσω για συγκεκριμένες εφαρμογές, η απάντησή μου ήταν απογοητευτική: «ναι, υπάρχουν μερικά πράγματα, αλλά όχι τόσο πολλά».
Τα τελευταία τρία χρόνια, με την άνοδο της πολύ πιο ισχυρής τεχνητής νοημοσύνης με τη μορφή της σύγχρονης LLMsκαι η άνοδος πολύ πιο ισχυρών κρυπτογράφησης με τη μορφή όχι μόνο λύσεων κλιμάκωσης blockchain αλλά και ΖΚΠ, FHE, (δικομματική και N-κομματική) MPC, έχω αρχίσει να βλέπω αυτήν την αλλαγή. Υπάρχουν πράγματι μερικές πολλά υποσχόμενες εφαρμογές της τεχνητής νοημοσύνης μέσα σε οικοσυστήματα blockchain ή AI μαζί με κρυπτογραφία, αν και είναι σημαντικό να είστε προσεκτικοί σχετικά με τον τρόπο εφαρμογής του AI. Μια ιδιαίτερη πρόκληση είναι: στην κρυπτογραφία, ο ανοιχτός κώδικας είναι ο μόνος τρόπος για να γίνει κάτι πραγματικά ασφαλές, αλλά στην τεχνητή νοημοσύνη, ένα μοντέλο (ή ακόμα και τα δεδομένα εκπαίδευσης του) είναι ανοιχτό αυξάνεται πολύ την τρωτότητά του σε αντίπαλη μηχανική μάθηση επιθέσεις. Αυτή η ανάρτηση θα περάσει από μια ταξινόμηση διαφορετικών τρόπων με τους οποίους θα μπορούσαν να διασταυρωθούν τα κρυπτογράφηση + AI, καθώς και οι προοπτικές και οι προκλήσεις κάθε κατηγορίας.
Μια σύνοψη υψηλού επιπέδου διασταυρώσεων κρυπτογράφησης+ AI από α ανάρτηση ιστολογίου uETH. Τι χρειάζεται όμως για να πραγματοποιηθούν πραγματικά κάποια από αυτές τις συνέργειες σε μια συγκεκριμένη εφαρμογή;
Οι τέσσερις μεγάλες κατηγορίες
Η τεχνητή νοημοσύνη είναι μια πολύ ευρεία έννοια: μπορείτε να σκεφτείτε το "AI" ως το σύνολο των αλγορίθμων που δημιουργείτε όχι προσδιορίζοντάς τους ρητά, αλλά ανακατεύοντας μια μεγάλη υπολογιστική σούπα και ασκώντας κάποιο είδος πίεσης βελτιστοποίησης που ωθεί τη σούπα προς παραγωγή αλγορίθμων με τις ιδιότητες που θέλετε. Αυτή η περιγραφή δεν πρέπει οπωσδήποτε να ληφθεί περιφρονητικά: αυτό περιλαμβάνει ο διαδικασια μας ότι δημιουργήθηκε εμείς οι άνθρωποι καταρχήν! Σημαίνει όμως ότι οι αλγόριθμοι τεχνητής νοημοσύνης έχουν κάποιες κοινές ιδιότητες: την ικανότητά τους να κάνουν πράγματα που είναι εξαιρετικά ισχυρά, μαζί με όρια στην ικανότητά μας να γνωρίζουμε ή να κατανοούμε τι συμβαίνει κάτω από την κουκούλα.
Υπάρχουν πολλοί τρόποι για να κατηγοριοποιήσετε την τεχνητή νοημοσύνη. για τους σκοπούς αυτής της ανάρτησης, η οποία μιλάει για αλληλεπιδράσεις μεταξύ AI και blockchains (τα οποία έχουν περιγραφεί ως πλατφόρμα για δημιουργία «παιχνιδιών»), θα το κατηγοριοποιήσω ως εξής:
- AI ως παίκτης σε ένα παιχνίδι [υψηλότερη βιωσιμότητα]: Οι AI συμμετέχουν σε μηχανισμούς όπου η τελική πηγή των κινήτρων προέρχεται από ένα πρωτόκολλο με ανθρώπινες εισροές.
- Η τεχνητή νοημοσύνη ως διεπαφή στο παιχνίδι [υψηλές δυνατότητες, αλλά με κινδύνους]: Το AI βοηθά τους χρήστες να κατανοήσουν τον κόσμο των κρυπτογράφησης γύρω τους και να διασφαλίσουν ότι η συμπεριφορά τους (δηλ. υπογεγραμμένα μηνύματα και συναλλαγές) ταιριάζει με τις προθέσεις τους και ότι δεν θα εξαπατηθούν ή θα εξαπατηθούν.
- Το AI ως κανόνες του παιχνιδιού [πατήστε πολύ προσεκτικά]: blockchains, DAO και παρόμοιοι μηχανισμοί που καλούν απευθείας σε AI. Σκέψου πχ. «κριτές της τεχνητής νοημοσύνης»
- Το AI ως στόχος του παιχνιδιού [μακροπρόθεσμη αλλά ενδιαφέρουσα]: σχεδιασμός blockchains, DAO και παρόμοιων μηχανισμών με στόχο την κατασκευή και διατήρηση ενός AI που θα μπορούσε να χρησιμοποιηθεί για άλλους σκοπούς, χρησιμοποιώντας τα crypto bits είτε για να δοθούν καλύτερα κίνητρα στην εκπαίδευση είτε για να αποτραπεί η διαρροή προσωπικών δεδομένων ή η κακή χρήση του AI.
Ας τα περάσουμε ένα προς ένα.
AI ως παίκτης σε ένα παιχνίδι
Αυτή είναι στην πραγματικότητα μια κατηγορία που υπάρχει εδώ και σχεδόν μια δεκαετία, τουλάχιστον από τότε αποκεντρωμένα ανταλλακτήρια στην αλυσίδα (DEX) άρχισε να έχει σημαντική χρήση. Κάθε φορά που υπάρχει ανταλλαγή, υπάρχει η ευκαιρία να κερδίσετε χρήματα μέσω του arbitrage και τα bot μπορούν να κάνουν arbitrage πολύ καλύτερα από ό,τι οι άνθρωποι. Αυτή η περίπτωση χρήσης υπάρχει εδώ και πολύ καιρό, ακόμη και με πολύ απλούστερα AI από αυτά που έχουμε σήμερα, αλλά τελικά είναι μια πολύ πραγματική διασταύρωση AI + κρυπτογράφησης. Πιο πρόσφατα, είδαμε MEV arbitrage bots συχνά εκμεταλλεύονται ο ένας τον άλλον. Κάθε φορά που έχετε μια εφαρμογή blockchain που περιλαμβάνει δημοπρασίες ή συναλλαγές, θα έχετε ρομπότ arbitrage.
Αλλά τα ρομπότ arbitrage AI είναι μόνο το πρώτο παράδειγμα μιας πολύ μεγαλύτερης κατηγορίας, η οποία αναμένω ότι σύντομα θα αρχίσει να περιλαμβάνει πολλές άλλες εφαρμογές. Γνωρίστε τους AIOmen, α επίδειξη μιας αγοράς προβλέψεων όπου οι AI είναι παίκτες:
Μια απάντηση σε αυτό είναι να επισημάνουμε τις συνεχείς βελτιώσεις UX στο Πολυμάρκετ ή άλλες νέες αγορές προβλέψεων και ελπίζουμε ότι θα πετύχουν εκεί όπου οι προηγούμενες επαναλήψεις απέτυχαν. Μετά από όλα, η ιστορία λέει, οι άνθρωποι είναι πρόθυμοι να στοιχηματίσουν δεκάδες δισεκατομμύρια για τον αθλητισμό, γιατί λοιπόν οι άνθρωποι δεν θα ρίξουν αρκετά χρήματα στοιχηματίζοντας στις αμερικανικές εκλογές ή LK99 ότι αρχίζει να βγάζει νόημα να αρχίσουν να μπαίνουν οι σοβαροί παίκτες; Αλλά αυτό το επιχείρημα πρέπει να ανταποκρίνεται στο γεγονός ότι, καλά, προηγούμενες επαναλήψεις έχουν απέτυχε να φτάσει σε αυτό το επίπεδο κλίμακας (τουλάχιστον σε σύγκριση με τα όνειρα των υποστηρικτών τους) και έτσι φαίνεται ότι χρειάζεστε κάτι νέο για να επιτύχουν οι αγορές προβλέψεων. Και έτσι, μια διαφορετική απάντηση είναι να επισημάνουμε ένα συγκεκριμένο χαρακτηριστικό των οικοσυστημάτων της αγοράς πρόβλεψης που μπορούμε να περιμένουμε να δούμε στη δεκαετία του 2020 που δεν είδαμε τη δεκαετία του 2010: τη δυνατότητα πανταχού παρουσίας των AI.
Οι AI είναι πρόθυμοι να εργαστούν για λιγότερο από 1 $ ανά ώρα και έχουν τη γνώση μιας εγκυκλοπαίδειας – και αν αυτό δεν είναι αρκετό, μπορούν ακόμη και να ενσωματωθούν με δυνατότητα αναζήτησης ιστού σε πραγματικό χρόνο. Εάν δημιουργήσετε μια αγορά και βάλετε μια επιδότηση ρευστότητας 50 $, οι άνθρωποι δεν θα ενδιαφέρονται αρκετά για να υποβάλουν προσφορές, αλλά χιλιάδες AI θα σωρευτούν εύκολα σε όλη την ερώτηση και θα κάνουν την καλύτερη εικασία που μπορούν. Το κίνητρο για να κάνετε καλή δουλειά σε οποιαδήποτε ερώτηση μπορεί να είναι μικροσκοπικό, αλλά το κίνητρο για να κάνετε μια τεχνητή νοημοσύνη που κάνει καλές προβλέψεις γενικά μπορεί να είναι σε εκατομμύρια. Σημειώστε ότι ενδεχομένως, δεν χρειάζεσαι καν τους ανθρώπους για να κρίνουν τις περισσότερες ερωτήσεις: μπορείτε να χρησιμοποιήσετε ένα σύστημα αμφισβήτησης πολλαπλών γύρων παρόμοιο με Μαντεύω ή Kleros, όπου οι AI θα ήταν επίσης αυτοί που θα συμμετείχαν σε προηγούμενους γύρους. Οι άνθρωποι θα χρειαζόταν να ανταποκριθούν μόνο σε εκείνες τις λίγες περιπτώσεις όπου έχουν λάβει χώρα μια σειρά κλιμακώσεων και μεγάλα χρηματικά ποσά έχουν δεσμευτεί και από τις δύο πλευρές.
Αυτό είναι ένα ισχυρό πρωτόγονο, γιατί από τη στιγμή που μια «αγορά προβλέψεων» μπορεί να λειτουργήσει σε τέτοια μικροσκοπική κλίμακα, μπορείτε να χρησιμοποιήσετε ξανά την πρωτόγονη «αγορά προβλέψεων» για πολλά άλλα είδη ερωτήσεων:
- Είναι αποδεκτή αυτή η ανάρτηση στα μέσα κοινωνικής δικτύωσης σύμφωνα με τους [όρους χρήσης];
- Τι θα συμβεί με την τιμή της μετοχής Χ (π.χ. βλ Νουμεράι)
- Είναι αυτός ο λογαριασμός που μου στέλνει μηνύματα αυτήν τη στιγμή ο Elon Musk;
- Είναι αποδεκτή αυτή η υποβολή εργασίας σε μια ηλεκτρονική αγορά εργασιών;
- Είναι το dapp στο https://examplefinance.network απάτη;
- Is
0x1b54....98c3
στην πραγματικότητα τη διεύθυνση του κουπονιού "Casinu Inu" ERC20;
Ίσως παρατηρήσετε ότι πολλές από αυτές τις ιδέες πηγαίνουν προς την κατεύθυνση αυτού που ονόμασα "υπεράσπιση πληροφοριών" σε . Σε γενικές γραμμές, το ερώτημα είναι: πώς βοηθάμε τους χρήστες να ξεχωρίζουν τις αληθινές και ψευδείς πληροφορίες και να ανιχνεύουν απάτες, χωρίς να εξουσιοδοτούμε μια κεντρική αρχή να αποφασίζει για το σωστό και το λάθος ποιος μπορεί στη συνέχεια να κάνει κατάχρηση αυτής της θέσης; Σε μικροεπίπεδο, η απάντηση μπορεί να είναι "AI". Αλλά σε μακροοικονομικό επίπεδο, το ερώτημα είναι: ποιος κατασκευάζει το AI; Η τεχνητή νοημοσύνη είναι μια αντανάκλαση της διαδικασίας που τη δημιούργησε και επομένως δεν μπορεί να αποφύγει τις προκαταλήψεις. Ως εκ τούτου, υπάρχει ανάγκη για ένα παιχνίδι υψηλότερου επιπέδου που θα κρίνει πόσο καλά τα πάνε τα διαφορετικά AI, όπου τα AI μπορούν να συμμετέχουν ως παίκτες στο παιχνίδι.
Αυτή η χρήση της τεχνητής νοημοσύνης, όπου οι AI συμμετέχουν σε έναν μηχανισμό όπου τελικά ανταμείβονται ή τιμωρούνται (πιθανώς) από έναν μηχανισμό on-chain που συλλέγει εισροές από ανθρώπους (ονομάστε το αποκεντρωμένο με βάση την αγορά RLHF?), είναι κάτι που πιστεύω ότι αξίζει πραγματικά να εξετάσουμε. Τώρα είναι η κατάλληλη στιγμή να εξετάσουμε περισσότερο τις περιπτώσεις χρήσης όπως αυτή, επειδή η κλιμάκωση της αλυσίδας μπλοκ επιτύχει επιτέλους, καθιστώντας «μικρο-» οτιδήποτε τελικά βιώσιμο στην αλυσίδα, ενώ συχνά δεν ήταν πριν.
Μια σχετική κατηγορία εφαρμογών πηγαίνει προς την κατεύθυνση των εξαιρετικά αυτόνομων πρακτόρων χρησιμοποιώντας blockchains για καλύτερη συνεργασία, είτε μέσω πληρωμών είτε μέσω της χρήσης έξυπνων συμβολαίων για την ανάληψη αξιόπιστων δεσμεύσεων.
Το AI ως διεπαφή στο παιχνίδι
Μια ιδέα που ανέφερα στο δικό μου γραφές για είναι η ιδέα ότι υπάρχει μια ευκαιρία στην αγορά για τη σύνταξη λογισμικού που αντιμετωπίζει ο χρήστης που θα προστατεύει τα συμφέροντα των χρηστών ερμηνεύοντας και εντοπίζοντας τους κινδύνους στον διαδικτυακό κόσμο στον οποίο πλοηγείται ο χρήστης. Ένα ήδη υπάρχον παράδειγμα αυτού είναι η δυνατότητα εντοπισμού απάτης της Metamask:
Δυνητικά, αυτού του είδους τα εργαλεία θα μπορούσαν να υπερφορτιστούν με AI. Η τεχνητή νοημοσύνη θα μπορούσε να δώσει μια πολύ πιο πλούσια, φιλική προς τον άνθρωπο εξήγηση για το είδος της εφαρμογής που συμμετέχετε, τις συνέπειες των πιο περίπλοκων λειτουργιών που υπογράφετε, ανεξάρτητα από το αν ένα συγκεκριμένο διακριτικό είναι ή όχι γνήσιο (π.χ. BITCOIN
δεν είναι απλώς μια σειρά χαρακτήρων, είναι το όνομα ενός πραγματικού κρυπτονομίσματος, το οποίο δεν είναι διακριτικό ERC20 και έχει τιμή υψηλότερη από 0.045 $, και ένας σύγχρονος LLM θα το ξέρει) και ούτω καθεξής. Υπάρχουν έργα που αρχίζουν να εξελίσσονται προς αυτή την κατεύθυνση (π.χ Πορτοφόλι LangChain, το οποίο χρησιμοποιεί την τεχνητή νοημοσύνη ως α πρωταρχικός διεπαφή). Η δική μου γνώμη είναι ότι οι καθαρές διεπαφές τεχνητής νοημοσύνης είναι πιθανώς πολύ επικίνδυνες αυτή τη στιγμή, καθώς αυξάνει τον κίνδυνο άλλα είδη λαθών, αλλά η τεχνητή νοημοσύνη που συμπληρώνει μια πιο συμβατική διεπαφή γίνεται πολύ βιώσιμη.
Υπάρχει ένας ιδιαίτερος κίνδυνος που αξίζει να αναφερθεί. Θα ασχοληθώ περισσότερο με αυτό στην ενότητα «Η τεχνητή νοημοσύνη ως κανόνες του παιχνιδιού» παρακάτω, αλλά το γενικό ζήτημα είναι η αντίθετη μηχανική εκμάθηση: εάν ένας χρήστης έχει πρόσβαση σε έναν βοηθό τεχνητής νοημοσύνης μέσα σε ένα πορτοφόλι ανοιχτού κώδικα, οι κακοί θα έχουν πρόσβαση και σε αυτόν τον βοηθό τεχνητής νοημοσύνης και έτσι θα έχουν απεριόριστες ευκαιρίες να βελτιστοποιήσουν τις απάτες του για να μην ενεργοποιούνται τις άμυνες αυτού του πορτοφολιού. Όλα τα σύγχρονα AI έχουν κάπου σφάλματα και δεν είναι πολύ δύσκολο για μια διαδικασία εκπαίδευσης, ακόμη και ένα με μόνο περιορισμένη πρόσβαση στο μοντέλο, για να τα βρούμε.
Εδώ λειτουργεί καλύτερα το "AI που συμμετέχει σε μικροαγορές on-chain": κάθε μεμονωμένη τεχνητή νοημοσύνη είναι ευάλωτη στους ίδιους κινδύνους, αλλά δημιουργείτε σκόπιμα ένα ανοιχτό οικοσύστημα δεκάδων ανθρώπων που τα επαναλαμβάνουν και τα βελτιώνουν συνεχώς σε συνεχή βάση. Επιπλέον, κάθε μεμονωμένη τεχνητή νοημοσύνη είναι κλειστή: η ασφάλεια του συστήματος προέρχεται από το άνοιγμα των κανόνων του παιχνίδι, όχι τις εσωτερικές λειτουργίες του καθενός παίχτης.
Περίληψη: Η τεχνητή νοημοσύνη μπορεί να βοηθήσει τους χρήστες να κατανοήσουν τι συμβαίνει σε απλή γλώσσα, μπορεί να χρησιμεύσει ως δάσκαλος σε πραγματικό χρόνο, μπορεί να προστατεύει τους χρήστες από λάθη, αλλά να προειδοποιούνται όταν προσπαθούν να το χρησιμοποιήσουν απευθείας ενάντια σε κακόβουλους παραπληροφορητές και απατεώνες.
Το AI ως κανόνες του παιχνιδιού
Τώρα, φτάνουμε στην εφαρμογή για την οποία πολλοί άνθρωποι είναι ενθουσιασμένοι, αλλά που πιστεύω ότι είναι η πιο επικίνδυνη και όπου πρέπει να περπατήσουμε πιο προσεκτικά: αυτό που αποκαλώ AI είναι μέρος των κανόνων του παιχνιδιού. Αυτό συνδέεται με τον ενθουσιασμό μεταξύ των κυρίαρχων πολιτικών ελίτ σχετικά με τους «κριτές AI» (π.χ. βλ αυτό το άρθρο στον ιστότοπο της «Παγκόσμιας Συνόδου Κορυφής της Κυβέρνησης»), και υπάρχουν ανάλογα αυτών των επιθυμιών σε εφαρμογές blockchain. Εάν ένα έξυπνο συμβόλαιο που βασίζεται σε blockchain ή ένα DAO χρειάζεται να λάβει μια υποκειμενική απόφαση (π.χ. είναι ένα συγκεκριμένο προϊόν εργασίας αποδεκτό σε μια σύμβαση εργασίας προς μίσθωση; Ποια είναι η σωστή ερμηνεία ενός συντάγματος φυσικής γλώσσας όπως το Optimism Νόμος των Αλυσίδων?), θα μπορούσατε να κάνετε μια τεχνητή νοημοσύνη να είναι απλώς μέρος της σύμβασης ή DAO για να βοηθήσετε στην επιβολή αυτών των κανόνων;
Εδώ είναι που αντίπαλη μηχανική μάθηση θα είναι μια εξαιρετικά δύσκολη πρόκληση. Το βασικό επιχείρημα δύο προτάσεων γιατί είναι το εξής:
Εάν ένα μοντέλο τεχνητής νοημοσύνης που παίζει βασικό ρόλο σε έναν μηχανισμό είναι κλειστό, δεν μπορείτε να επαληθεύσετε την εσωτερική του λειτουργία και επομένως δεν είναι καλύτερο από μια κεντρική εφαρμογή. Εάν το μοντέλο τεχνητής νοημοσύνης είναι ανοιχτό, τότε ένας εισβολέας μπορεί να το κατεβάσει και να το προσομοιώσει τοπικά και να σχεδιάσει άκρως βελτιστοποιημένες επιθέσεις για να ξεγελάσει το μοντέλο, τις οποίες στη συνέχεια μπορούν να αναπαράγουν ξανά στο ζωντανό δίκτυο.
Τώρα, οι συχνοί αναγνώστες αυτού του ιστολογίου (ή οι κάτοικοι της κρυπτογράφησης) μπορεί να με προλαβαίνουν ήδη και να σκέφτονται: αλλά περιμένετε! Έχουμε φανταχτερές αποδείξεις μηδενικής γνώσης και άλλες πραγματικά ενδιαφέρουσες μορφές κρυπτογραφίας. Σίγουρα μπορούμε να κάνουμε κάποια κρυπτομαγεία και να κρύψουμε τις εσωτερικές λειτουργίες του μοντέλου, έτσι ώστε οι εισβολείς να μην μπορούν να βελτιστοποιήσουν τις επιθέσεις, αλλά ταυτόχρονα αποδειχθούν ότι το μοντέλο εκτελείται σωστά και κατασκευάστηκε χρησιμοποιώντας μια λογική διαδικασία εκπαίδευσης σε ένα εύλογο σύνολο υποκείμενων δεδομένων!
Κανονικά, αυτό είναι ακριβώς το είδος της σκέψης που υποστηρίζω τόσο σε αυτό το ιστολόγιο όσο και σε άλλα γραπτά μου. Αλλά στην περίπτωση των υπολογισμών που σχετίζονται με την τεχνητή νοημοσύνη, υπάρχουν δύο μεγάλες ενστάσεις:
- Κρυπτογραφικά έξοδα: είναι πολύ λιγότερο αποτελεσματικό να κάνετε κάτι μέσα σε ένα SNARK (ή MPC ή…) από ό,τι είναι να το κάνετε «στο καθαρό». Δεδομένου ότι η τεχνητή νοημοσύνη είναι ήδη πολύ εντατική υπολογιστικά, είναι ακόμη και υπολογιστικά βιώσιμο η τεχνητή νοημοσύνη μέσα σε κρυπτογραφικά μαύρα κουτιά;
- Επιθέσεις μηχανικής εκμάθησης αντιπάλων μαύρου κουτιού: υπάρχουν τρόποι βελτιστοποίησης επιθέσεων κατά μοντέλων τεχνητής νοημοσύνης ακόμα και χωρίς να γνωρίζω πολλά σχετικά με την εσωτερική λειτουργία του μοντέλου. Κι αν κρύβεσαι πάρα πολύ, κινδυνεύετε να το κάνετε πολύ εύκολο για όποιον επιλέγει τα δεδομένα εκπαίδευσης να αλλοιώσει το μοντέλο δηλητηρίαση επιθέσεις.
Και οι δύο είναι περίπλοκες τρύπες κουνελιών, οπότε ας μπούμε σε καθεμία από αυτές με τη σειρά.
Κρυπτογραφικά έξοδα
Τα κρυπτογραφικά gadget, ειδικά γενικής χρήσης, όπως τα ZK-SNARK και MPC, έχουν υψηλό κόστος. Ένα μπλοκ Ethereum χρειάζεται μερικές εκατοντάδες χιλιοστά του δευτερολέπτου για να επαληθευτεί απευθείας ένας πελάτης, αλλά η δημιουργία ενός ZK-SNARK για την απόδειξη της ορθότητας ενός τέτοιου μπλοκ μπορεί να διαρκέσει ώρες. Η τυπική επιβάρυνση άλλων κρυπτογραφικών gadget, όπως το MPC, μπορεί να είναι ακόμη χειρότερη. Ο υπολογισμός της τεχνητής νοημοσύνης είναι ήδη ακριβός: τα πιο ισχυρά LLM μπορούν να παράγουν μεμονωμένες λέξεις μόνο λίγο πιο γρήγορα από ό,τι οι άνθρωποι μπορούν να τις διαβάσουν, για να μην αναφέρουμε το συχνά υπολογιστικό κόστος πολλών εκατομμυρίων δολαρίων εκπαίδευση τα μοντέλα. Η διαφορά ποιότητας μεταξύ των κορυφαίων μοντέλων και των μοντέλων που προσπαθούν να εξοικονομήσουν πολύ περισσότερα κόστος εκπαίδευσης or μέτρηση παραμέτρων είναι μεγάλο. Με την πρώτη ματιά, αυτός είναι ένας πολύ καλός λόγος για να είμαστε καχύποπτοι για το όλο εγχείρημα της προσπάθειας προσθήκης εγγυήσεων στην τεχνητή νοημοσύνη τυλίγοντάς το σε κρυπτογραφία.
Ευτυχώς, όμως, Το AI είναι α πολύ συγκεκριμένο τύπο υπολογισμού, γεγονός που το καθιστά επιδεκτικό σε κάθε είδους βελτιστοποιήσεις από αυτό δεν μπορούν να επωφεληθούν περισσότεροι «μη δομημένοι» τύποι υπολογισμών όπως τα ZK-EVM. Ας εξετάσουμε τη βασική δομή ενός μοντέλου AI:
y = max(x, 0)
). Ασυμπτωτικά, οι πολλαπλασιασμοί μήτρας καταλαμβάνουν το μεγαλύτερο μέρος της εργασίας: πολλαπλασιάζοντας δύο N*N
μήτρες παίρνει (2.8) χρόνο, ενώ ο αριθμός των μη γραμμικών πράξεων είναι πολύ μικρότερος. Αυτό είναι πραγματικά βολικό για την κρυπτογραφία, επειδή πολλές μορφές κρυπτογραφίας μπορούν να κάνουν γραμμικές πράξεις (οι οποίες οι πολλαπλασιασμοί μήτρας είναι, τουλάχιστον αν κρυπτογραφήσετε το μοντέλο αλλά όχι τις εισόδους σε αυτό) σχεδόν «δωρεάν».
Εάν είστε κρυπτογράφος, πιθανότατα έχετε ήδη ακούσει για ένα παρόμοιο φαινόμενο στο πλαίσιο του ομομορφική κρυπτογράφηση: παράσταση προσθήκες στα κρυπτογραφημένα κρυπτογραφημένα κείμενα είναι πραγματικά εύκολο, αλλά πολλαπλασιασμούς είναι απίστευτα δύσκολα και δεν είχαμε βρει κανέναν τρόπο να το κάνουμε με απεριόριστο βάθος μέχρι το 2009.
Για ZK-SNARK, το αντίστοιχο είναι πρωτόκολλα όπως αυτό από το 2013, που δείχνουν α λιγότερο από 4x επιβάρυνση για την απόδειξη πολλαπλασιασμών πινάκων. Δυστυχώς, το γενικό κόστος στα μη γραμμικά επίπεδα εξακολουθεί να είναι σημαντικό και οι καλύτερες υλοποιήσεις στην πράξη δείχνουν γενικά έξοδα περίπου 200x. Αλλά υπάρχει ελπίδα ότι αυτό μπορεί να μειωθεί σημαντικά μέσω περαιτέρω έρευνας. βλέπω αυτή την παρουσίαση από τον Ryan Cao για μια πρόσφατη προσέγγιση που βασίζεται στο GKR, και τη δική μου απλοποιημένη εξήγηση του τρόπου λειτουργίας του κύριου στοιχείου του GKR.
Αλλά για πολλές εφαρμογές, δεν το θέλουμε απλώς αποδειχθούν ότι μια έξοδος AI υπολογίστηκε σωστά, θέλουμε επίσης κρύψτε το μοντέλο. Υπάρχουν αφελείς προσεγγίσεις σε αυτό: μπορείτε να χωρίσετε το μοντέλο έτσι ώστε ένα διαφορετικό σύνολο διακομιστών να αποθηκεύει πλεονάζοντα κάθε επίπεδο και να ελπίζετε ότι ορισμένοι από τους διακομιστές που διαρρέουν ορισμένα επίπεδα δεν θα διαρρέουν πάρα πολλά δεδομένα. Υπάρχουν όμως και εκπληκτικά αποτελεσματικές μορφές εξειδικευμένο πολυμερή υπολογισμό.
Και στις δύο περιπτώσεις, το ηθικό δόγμα της ιστορίας είναι το ίδιο: το μεγαλύτερο μέρος ενός υπολογισμού τεχνητής νοημοσύνης είναι οι πολλαπλασιασμοί πινάκων, για τους οποίους είναι δυνατό να γίνουν πολύ αποτελεσματική ZK-SNARK ή MPC (ή ακόμα και FHE), και έτσι το συνολικό κόστος της τοποθέτησης AI μέσα σε κρυπτογραφικά κουτιά είναι εκπληκτικά χαμηλό. Γενικά, τα μη γραμμικά στρώματα είναι το μεγαλύτερο σημείο συμφόρησης παρά το μικρότερο μέγεθός τους. ίσως νεότερες τεχνικές όπως επιχειρήματα αναζήτησης μπορεί να βοηθήσει.
Μαύρο κουτί αντίπαλη μηχανική εκμάθηση
Τώρα, ας φτάσουμε στο άλλο μεγάλο πρόβλημα: τα είδη των επιθέσεων που μπορείτε να κάνετε ακόμη και αν τα περιεχόμενα του μοντέλου διατηρούνται ιδιωτικά και έχετε μόνο "πρόσβαση API" στο μοντέλο. Παράθεση α χαρτί από το 2016:
Πολλά μοντέλα μηχανικής μάθησης είναι ευάλωτα σε αντίθετα παραδείγματα: εισροές που έχουν σχεδιαστεί ειδικά για να κάνουν ένα μοντέλο μηχανικής μάθησης να παράγει εσφαλμένα αποτελέσματα. Τα αντίθετα παραδείγματα που επηρεάζουν ένα μοντέλο επηρεάζουν συχνά ένα άλλο μοντέλο, ακόμα κι αν τα δύο μοντέλα έχουν διαφορετικές αρχιτεκτονικές ή εκπαιδεύτηκαν σε διαφορετικά σύνολα εκπαίδευσης, εφόσον και τα δύο μοντέλα είχαν εκπαιδευτεί να εκτελούν την ίδια εργασία. Ως εκ τούτου, ένας εισβολέας μπορεί να εκπαιδεύσει το δικό του υποκατάστατο μοντέλο, να δημιουργήσει αντίθετα παραδείγματα εναντίον του υποκατάστατου και να τα μεταφέρει σε ένα μοντέλο θύματος, με πολύ λίγες πληροφορίες για το θύμα.
Δυνητικά, μπορείτε ακόμη και να δημιουργήσετε επιθέσεις γνωρίζοντας μόνο τα δεδομένα της εκπαίδευσης, ακόμα κι αν έχετε πολύ περιορισμένη ή καθόλου πρόσβαση στο μοντέλο στο οποίο προσπαθείτε να επιτεθείτε. Από το 2023, αυτού του είδους οι επιθέσεις συνεχίζουν να αποτελούν μεγάλο πρόβλημα.
Για να περιορίσουμε αποτελεσματικά αυτά τα είδη επιθέσεων μαύρου κουτιού, πρέπει να κάνουμε δύο πράγματα:
- Πραγματικά περιορίστε ποιος ή τι μπορεί να υποβάλει ερωτήματα στο μοντέλο ποσο. Τα μαύρα κουτιά με απεριόριστη πρόσβαση API δεν είναι ασφαλή. μαύρα κουτιά με πολύ περιορισμένη πρόσβαση API μπορεί να είναι.
- Απόκρυψη των δεδομένων προπόνησης, διατηρώντας παράλληλα την εμπιστοσύνη ότι η διαδικασία που χρησιμοποιείται για τη δημιουργία των δεδομένων εκπαίδευσης δεν είναι κατεστραμμένη.
Το έργο που έχει κάνει τα περισσότερα στο πρώτο είναι ίσως το Worldcoin, του οποίου αναλύω εκτενώς μια προηγούμενη έκδοση (μεταξύ άλλων πρωτοκόλλων) εδώ. Το Worldcoin χρησιμοποιεί μοντέλα τεχνητής νοημοσύνης εκτενώς σε επίπεδο πρωτοκόλλου, για να (i) μετατρέψει τις σαρώσεις ίριδας σε σύντομους «κώδικες ίριδας» που είναι εύκολο να συγκριθούν ως προς την ομοιότητα και (ii) να επαληθεύσει ότι το πράγμα που σαρώνει είναι στην πραγματικότητα άνθρωπος. Η κύρια άμυνα στην οποία βασίζεται το Worldcoin είναι το γεγονός ότι δεν επιτρέπει σε κανέναν να καλεί απλώς το μοντέλο AI: αντίθετα, χρησιμοποιεί αξιόπιστο υλικό για να διασφαλίσει ότι το μοντέλο δέχεται μόνο εισόδους υπογεγραμμένες ψηφιακά από την κάμερα της σφαίρας.
Αυτή η προσέγγιση δεν είναι εγγυημένη ότι θα λειτουργήσει: αποδεικνύεται ότι μπορείτε να κάνετε αντίθετες επιθέσεις κατά βιομετρικής τεχνητής νοημοσύνης που έχουν τη μορφή φυσικά μπαλώματα ή κοσμήματα που μπορείτε να βάλετε στο πρόσωπό σας:
Αλλά η ελπίδα είναι ότι αν συνδυάστε όλες τις άμυνες μαζί, κρύβοντας το ίδιο το μοντέλο τεχνητής νοημοσύνης, περιορίζοντας σε μεγάλο βαθμό τον αριθμό των ερωτημάτων και απαιτώντας με κάποιο τρόπο τον έλεγχο ταυτότητας κάθε ερωτήματος, μπορείτε να κάνετε επιθέσεις αντιπάλου αρκετά δύσκολες ώστε το σύστημα να είναι ασφαλές.
Και αυτό μας οδηγεί στο δεύτερο μέρος: πώς μπορούμε να κρύψουμε τα δεδομένα εκπαίδευσης; Εδώ είναι που «Οι DAO να κυβερνούν δημοκρατικά την τεχνητή νοημοσύνη» μπορεί να έχει νόημα: μπορούμε να δημιουργήσουμε ένα DAO on-chain που διέπει τη διαδικασία για το ποιος επιτρέπεται να υποβάλλει δεδομένα εκπαίδευσης (και ποιες βεβαιώσεις απαιτούνται για τα ίδια τα δεδομένα), ποιος επιτρέπεται να κάνει ερωτήματα και πόσα, και να χρησιμοποιεί κρυπτογραφικές τεχνικές όπως το MPC να κρυπτογραφήσει ολόκληρο τον αγωγό δημιουργίας και εκτέλεσης της τεχνητής νοημοσύνης από την εισαγωγή εκπαίδευσης κάθε μεμονωμένου χρήστη μέχρι την τελική έξοδο κάθε ερωτήματος. Αυτό το DAO θα μπορούσε ταυτόχρονα να ικανοποιήσει τον εξαιρετικά δημοφιλή στόχο της αποζημίωσης των ατόμων για την υποβολή δεδομένων.
- Τα κρυπτογραφικά έξοδα θα μπορούσαν να αποδειχθούν πολύ υψηλά ώστε αυτό το είδος αρχιτεκτονικής πλήρως μαύρου κουτιού να είναι ανταγωνιστικό με τις παραδοσιακές κλειστές προσεγγίσεις «εμπιστέψου με».
- Θα μπορούσε να αποδειχθεί ότι δεν υπάρχει καλός τρόπος να γίνει η διαδικασία υποβολής δεδομένων εκπαίδευσης αποκεντρωμένη και προστατεύονται κατά των επιθέσεων δηλητηρίασης.
- Τα gadget υπολογιστών πολλών μερών θα μπορούσαν να χαλάσουν εγγυήσεις ασφάλειας ή απορρήτου τους λόγω συμμετεχόντων: τελικά, αυτό έχει συμβεί με τις γέφυρες κρυπτονομισμάτων διασταυρούμενων αλυσίδων πάλι και πάλι.
Ένας λόγος για τον οποίο δεν ξεκίνησα αυτήν την ενότητα με περισσότερες μεγάλες κόκκινες προειδοποιητικές ετικέτες που λένε «ΜΗΝ ΚΑΝΕΤΕ ΚΡΙΤΕΣ AI, ΑΥΤΟ ΕΙΝΑΙ ΔΥΣΤΟΠΙΚΟ», είναι ότι η κοινωνία μας εξαρτάται ήδη σε μεγάλο βαθμό από ανεξέλεγκτους κεντρικούς κριτές τεχνητής νοημοσύνης: οι αλγόριθμοι που καθορίζουν ποια είδη οι αναρτήσεις και οι πολιτικές απόψεις ενισχύονται και εκτονώνονται, ή ακόμα και λογοκρίνονται, στα μέσα κοινωνικής δικτύωσης. Νομίζω ότι η επέκταση αυτής της τάσης περαιτέρω σε αυτό το στάδιο είναι πολύ κακή ιδέα, αλλά δεν νομίζω ότι υπάρχει μεγάλη πιθανότητα η κοινότητα του blockchain πειραματίζεται με AI περισσότερο θα είναι αυτό που συμβάλλει στο να γίνει χειρότερο.
Στην πραγματικότητα, υπάρχουν μερικοί πολύ βασικοί τρόποι χαμηλού κινδύνου με τους οποίους η τεχνολογία κρυπτογράφησης μπορεί να κάνει καλύτερα ακόμη και αυτά τα υπάρχοντα κεντρικά συστήματα για τους οποίους είμαι αρκετά σίγουρος. Μια απλή τεχνική είναι επαληθευμένη τεχνητή νοημοσύνη με καθυστερημένη δημοσίευση: όταν ένας ιστότοπος μέσων κοινωνικής δικτύωσης κάνει μια κατάταξη αναρτήσεων βάσει τεχνητής νοημοσύνης, θα μπορούσε να δημοσιεύσει ένα ZK-SNARK που να αποδεικνύει τον κατακερματισμό του μοντέλου που δημιούργησε αυτήν την κατάταξη. Ο ιστότοπος θα μπορούσε να δεσμευτεί να αποκαλύψει τα μοντέλα AI του μετά από π.χ. καθυστέρηση ενός έτους. Μόλις αποκαλυφθεί ένα μοντέλο, οι χρήστες θα μπορούσαν να ελέγξουν τον κατακερματισμό για να επαληθεύσουν ότι κυκλοφόρησε το σωστό μοντέλο και η κοινότητα θα μπορούσε να εκτελέσει δοκιμές στο μοντέλο για να επαληθεύσει την ορθότητά του. Η καθυστέρηση της δημοσίευσης θα διασφάλιζε ότι μέχρι να αποκαλυφθεί το μοντέλο, θα είναι ήδη ξεπερασμένο.
Σε σύγκριση λοιπόν με το κεντρική κόσμο, το ερώτημα δεν είναι if μπορούμε καλύτερα, αλλά από πόσο. Για το αποκεντρωμένος κόσμοςΩστόσο, είναι σημαντικό να είστε προσεκτικοί: αν κάποιος κατασκευάσει π.χ. μια αγορά προβλέψεων ή ένα stablecoin που χρησιμοποιεί ένα μαντείο AI, και αποδεικνύεται ότι το μαντείο είναι επιτιθέμενο, είναι ένα τεράστιο χρηματικό ποσό που θα μπορούσε να εξαφανιστεί σε μια στιγμή.
AI ως στόχος του παιχνιδιού
Εάν οι παραπάνω τεχνικές για τη δημιουργία μιας κλιμακούμενης αποκεντρωμένης ιδιωτικής τεχνητής νοημοσύνης, του οποίου το περιεχόμενο είναι ένα μαύρο κουτί που δεν είναι γνωστό σε κανέναν, μπορούν πραγματικά να λειτουργήσουν, τότε αυτό θα μπορούσε επίσης να χρησιμοποιηθεί για τη δημιουργία AI με χρησιμότητα που υπερβαίνει τα blockchains. Η ομάδα πρωτοκόλλου NEAR κάνει αυτό α βασικό στόχο της συνεχιζόμενης εργασίας τους.
Υπάρχουν δύο λόγοι για να το κάνετε αυτό:
- Αν εσύ κουτί φτιαχνω, κανω "αξιόπιστα AI του μαύρου κουτιούΕκτελώντας τη διαδικασία εκπαίδευσης και εξαγωγής συμπερασμάτων χρησιμοποιώντας κάποιο συνδυασμό blockchains και MPC, τότε πολλές εφαρμογές όπου οι χρήστες ανησυχούν ότι το σύστημα είναι προκατειλημμένο ή εξαπατώντας τους θα μπορούσαν να επωφεληθούν από αυτό. Πολλοί άνθρωποι έχουν εκφράσει την επιθυμία για δημοκρατική διακυβέρνηση συστημικά σημαντικών AI που θα εξαρτηθούμε? Οι κρυπτογραφικές τεχνικές και οι τεχνικές που βασίζονται σε blockchain θα μπορούσαν να είναι ένας τρόπος για να γίνει αυτό.
- Από ένα Ασφάλεια AI Προοπτική, αυτή θα ήταν μια τεχνική για τη δημιουργία μιας αποκεντρωμένης τεχνητής νοημοσύνης που θα έχει επίσης έναν φυσικό διακόπτη kill και που θα μπορούσε να περιορίσει τα ερωτήματα που επιδιώκουν να χρησιμοποιήσουν το AI για κακόβουλη συμπεριφορά.
Αξίζει επίσης να σημειωθεί ότι «η χρήση κινήτρων κρυπτογράφησης για την παροχή κινήτρων για τη βελτίωση της τεχνητής νοημοσύνης» μπορεί να γίνει χωρίς επίσης να καταρρεύσει η χρήση κρυπτογραφίας για την πλήρη κρυπτογράφηση: προσεγγίσεις όπως BitTensor εμπίπτουν σε αυτήν την κατηγορία.
συμπεράσματα
Τώρα που τόσο τα blockchain όσο και τα AI γίνονται πιο ισχυρά, υπάρχει ένας αυξανόμενος αριθμός περιπτώσεων χρήσης στη διασταύρωση των δύο περιοχών. Ωστόσο, ορισμένες από αυτές τις περιπτώσεις χρήσης έχουν πολύ πιο νόημα και είναι πολύ πιο στιβαρές από άλλες. Γενικά, χρησιμοποιήστε περιπτώσεις όπου ο υποκείμενος μηχανισμός συνεχίζει να σχεδιάζεται περίπου όπως πριν, αλλά το άτομο παίκτες να γίνουν AI, επιτρέποντας στον μηχανισμό να λειτουργεί αποτελεσματικά σε πολύ πιο μικροκλίμακα, είναι τα πιο άμεσα ελπιδοφόρα και τα πιο εύκολο να γίνουν σωστά.
Το πιο δύσκολο για να γίνει σωστά είναι οι εφαρμογές που προσπαθούν να χρησιμοποιήσουν blockchains και κρυπτογραφικές τεχνικές για να δημιουργήσουν ένα "singleton": ένα ενιαίο αποκεντρωμένο αξιόπιστο AI στο οποίο κάποια εφαρμογή θα βασιζόταν για κάποιο σκοπό. Αυτές οι εφαρμογές έχουν υποσχέσεις, τόσο για τη λειτουργικότητα όσο και για τη βελτίωση της ασφάλειας της τεχνητής νοημοσύνης με τρόπο που αποφεύγει τους κινδύνους συγκέντρωσης που σχετίζονται με πιο βασικές προσεγγίσεις σε αυτό το πρόβλημα. Υπάρχουν όμως και πολλοί τρόποι με τους οποίους οι υποκείμενες υποθέσεις θα μπορούσαν να αποτύχουν. Ως εκ τούτου, αξίζει να περπατήσετε προσεκτικά, ειδικά κατά την ανάπτυξη αυτών των εφαρμογών σε περιβάλλοντα υψηλής αξίας και υψηλού κινδύνου.
Ανυπομονώ να δω περισσότερες προσπάθειες για εποικοδομητικές περιπτώσεις χρήσης τεχνητής νοημοσύνης σε όλους αυτούς τους τομείς, ώστε να μπορούμε να δούμε ποιες από αυτές είναι πραγματικά βιώσιμες σε κλίμακα.
Συγγραφέας: Vitalik Buterin
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- BlockOffsets. Εκσυγχρονισμός της περιβαλλοντικής αντιστάθμισης ιδιοκτησίας. Πρόσβαση εδώ.
- πηγή: Νοημοσύνη δεδομένων Πλάτωνα.