Szerző: Vitalik Buterin keresztül a Vitalik Buterin Blog
Külön köszönet a Worldcoin és a Modulus Labs csapatának, Xinyuan Sunnak, Martin Koeppelmannnak és Illia Polosukhinnak a visszajelzésért és a beszélgetésért.
Az évek során sokan tettek fel nekem hasonló kérdést: mik azok csomópontok a kriptográfia és a mesterséges intelligencia között, amit a legtermékenyebbnek tartok? Ésszerű kérdés: a kriptográfia és a mesterséges intelligencia az elmúlt évtized két fő mély (szoftver) technológiai trendje, és úgy tűnik, kell legyen valamiféle kapcsolat a kettő között. Felületes hangulati szinten könnyű szinergiákat kitalálni: a kriptodecentralizáció kiegyensúlyozza a mesterséges intelligencia központosítását, az AI átlátszatlan, a kriptográfia pedig átláthatóságot biztosít, az AI-nak adatokra van szüksége, a blokkláncok pedig jók az adatok tárolására és nyomon követésére. De az évek során, amikor az emberek arra kértek, hogy ássak egy szinttel mélyebbre, és beszéljek konkrét alkalmazásokról, a válaszom kiábrándító volt: „igen van néhány dolog, de nem annyi”.
Az elmúlt három évben a sokkal erősebb mesterséges intelligencia megjelenése a modern formájában LLM-ekés a sokkal erősebb kriptográfia térnyerése nemcsak blokklánc-skálázási megoldások, hanem ZKP-k, FHE, (két- és N-párti) MPC, kezdem látni ezt a változást. Valóban van néhány ígéretes AI alkalmazása a blokklánc-ökoszisztémákon belül, ill AI a kriptográfiával együtt, bár fontos, hogy ügyeljen az AI alkalmazására. Külön kihívást jelent: a kriptográfiában a nyílt forráskód az egyetlen módja annak, hogy valamit igazán biztonságossá tegyünk, de az AI-ban a modell (vagy akár a betanítási adatai) nyitott. nagymértékben növekszik a sebezhetőségét ellenséges gépi tanulás támadások. Ebben a bejegyzésben a kriptográfia és a mesterséges intelligencia kereszteződésének különböző módjait, valamint az egyes kategóriák kilátásait és kihívásait soroljuk fel.
A kriptográfia+AI metszéspontjainak magas szintű összefoglalója a uETH blogbejegyzés. De mi kell ahhoz, hogy ezek a szinergiák ténylegesen megvalósuljanak egy konkrét alkalmazásban?
A négy fő kategória
A mesterséges intelligencia egy nagyon tág fogalom: az „AI” olyan algoritmusok halmaza, amelyeket nem úgy hoz létre, hogy kifejezetten megadja őket, hanem inkább úgy, hogy egy nagy számítási levest keverünk, és valamilyen optimalizálási nyomást gyakorolunk, ami a levest a felé tolja. algoritmusok létrehozása a kívánt tulajdonságokkal. Ezt a leírást semmiképpen sem szabad elutasítóan venni: azt magában foglalja a a folyamat hogy készítette elsősorban mi emberek! De ez azt jelenti, hogy az AI-algoritmusoknak van néhány közös tulajdonsága: rendkívül erőteljes dolgok elvégzésére való képességük, valamint korlátok annak tudatában vagy megértésében, hogy mi történik a motorháztető alatt.
Az AI kategorizálásának számos módja van; ennek a bejegyzésnek a céljaira, amely az AI és a blokkláncok közötti interakciókról beszél (amelyeket platformként írnak le "játékok" létrehozása), a következőképpen fogom kategorizálni:
- AI játékosként a játékban [legmagasabb életképesség]: A mesterséges intelligencia olyan mechanizmusokban vesz részt, ahol az ösztönzők végső forrása egy emberi közreműködést tartalmazó protokollból származik.
- AI, mint interfész a játékhoz [nagy potenciál, de kockázatokkal]: A mesterséges intelligencia segíti a felhasználókat abban, hogy megértsék az őket körülvevő kriptográfiai világot, és biztosítsák, hogy viselkedésük (azaz aláírt üzenetek és tranzakciók) összhangban álljon szándékaikkal, és ne kerüljenek becsapásra vagy átverésre.
- A mesterséges intelligencia, mint a játékszabály [lépj nagyon óvatosan]: blokkláncok, DAO-k és hasonló mechanizmusok, amelyek közvetlenül hívják az AI-t. Gondolj pl. „AI bírók”
- Az AI, mint a játék célja [hosszabb távú, de érdekes]: blokkláncok, DAO-k és hasonló mechanizmusok tervezése azzal a céllal, hogy olyan mesterséges intelligenciát hozzanak létre és tartsanak fenn, amelyet más célokra is fel lehet használni, a kriptobitek felhasználásával vagy a képzés jobb ösztönzésére, vagy annak megakadályozására, hogy a mesterséges intelligencia személyes adatok kiszivárogtatását vagy visszaélést okozza.
Nézzük ezeket egyenként.
AI, mint játékos a játékban
Ez egy olyan kategória, amely közel egy évtizede létezik, legalábbis azóta láncon belüli decentralizált tőzsdék (DEX-ek) jelentős hasznát vették. Bármikor, amikor csere van, lehetőség nyílik arra, hogy pénzt keressenek az arbitrázson keresztül, és a botok sokkal jobban képesek arbitrázsra, mint az emberek. Ez a használati eset már régóta létezik, még a mainál sokkal egyszerűbb AI-k esetén is, de végső soron ez egy nagyon valós AI + kriptográfiai metszéspont. Nemrég láthattunk MEV arbitrázsbotokat gyakran kihasználják egymást. Bármikor, amikor van blokklánc-alkalmazása, amely aukciókat vagy kereskedést foglal magában, arbitrázsbotjai lesznek.
Ám az AI arbitrázsbotok csak az első példái egy sokkal nagyobb kategóriának, amelybe várhatóan hamarosan sok más alkalmazás is bekerül majd. Ismerje meg az AIOment, a bemutató egy előrejelzési piacról, ahol a mesterséges intelligencia szereplői:
Az egyik válasz erre az, hogy rámutatunk a UX folyamatban lévő fejlesztéseire polimarket vagy más új előrejelzési piacokon, és reméljük, hogy sikerrel járnak ott, ahol a korábbi iterációk kudarcot vallottak. Végül is, a történet szerint az emberek hajlandóak fogadni több tízmilliárd a sportra, akkor miért ne dobnának be az emberek elég pénzt az amerikai választásokra, ill LK99 hogy kezd érteni, hogy a komoly játékosok elkezdenek bejönni? De ennek az érvnek meg kell küzdenie azzal a ténnyel, hogy nos, a korábbi iterációk ajánlatunkra nem sikerült eljutni erre a szintre (legalábbis támogatóik álmaihoz képest), ezért úgy tűnik, hogy szüksége van valami újat hogy az előrejelzési piacok sikeresek legyenek. Így egy másik válasz az előrejelzési piaci ökoszisztémák egy olyan sajátos jellemzőjére való rámutatás, amelyet a 2020-as években láthatunk, és amelyet a 2010-es években nem láttunk: az MI-k mindenütt való részvételének lehetősége.
Az AI-k óránként kevesebb mint 1 dollárért hajlandóak dolgozni, és rendelkeznek egy enciklopédiával – és ha ez nem lenne elég, akár valós idejű webes keresési képességgel is integrálhatók. Ha piacot csinálsz, és 50 dolláros likviditási támogatást adsz fel, az emberek nem fognak annyira törődni, hogy licitáljanak, de mesterséges intelligencia ezrei hemzsegnek majd a kérdésben, és a lehető legjobb tippet teszik. Lehet, hogy az ösztönzés egy-egy kérdésben jó munkát végezni csekély, de az ösztönzés egy olyan mesterséges intelligencia létrehozására, amely jó előrejelzéseket ad általában milliós nagyságrendűek lehetnek. Vegye figyelembe, hogy potenciálisan a legtöbb kérdés eldöntéséhez nincs is szükséged emberekre: hasonló többfordulós vitarendszert használhat Jósol vagy Kleros, ahol az AI-k is részt vesznek a korábbi fordulókban. Az embereknek csak abban a néhány esetben kellene reagálniuk, amikor egy sor eszkalációra került sor, és mindkét fél nagy összegeket követett el.
Ez egy erőteljes primitív, mert ha egyszer egy „jóslási piacot” sikerül ilyen mikroszkopikus léptékben működőképessé tenni, akkor a „jóslati piac” primitívét sok más kérdésre is felhasználhatja:
- Elfogadható ez a közösségi média bejegyzés a [felhasználási feltételek] szerint?
- Mi lesz az X részvény árfolyamával (pl Numerai)
- Ez a fiók, amely jelenleg üzenetet küld nekem, valóban Elon Musk?
- Elfogadható ez a munka beküldése egy online feladatpiacon?
- A https://examplefinance.network oldalon található dapp átverés?
- Is
0x1b54....98c3
valójában a „Casinu Inu” ERC20 token címe?
Észreveheti, hogy sok ilyen ötlet abba az irányba megy, amit én ""info védelem" ban ben . Tágabb értelemben a kérdés a következő: hogyan segíthetünk a felhasználóknak megkülönböztetni a valódi és hamis információkat, és felderíteni a csalásokat anélkül, hogy egy központosított hatóságot felhatalmaznánk arra, hogy eldöntse, jó és rossz, ki élhet vissza ezzel a pozícióval? Mikroszinten a válasz lehet „AI”. De makroszinten a kérdés az: ki építi az AI-t? A mesterséges intelligencia annak a folyamatnak a tükörképe, amely létrehozta, így nem kerülheti el az előítéleteket. Ezért szükség van egy magasabb szintű játékra, amely megítéli, hogy a különböző AI-k mennyire teljesítenek jól, és ahol az AI-k játékosként vehetnek részt a játékban..
A mesterséges intelligencia ezen alkalmazása, ahol a mesterséges intelligencia egy olyan mechanizmusban vesz részt, ahol végső soron jutalmat vagy büntetést kapnak (valószínűleg) egy olyan láncon belüli mechanizmussal, amely az emberektől származó inputokat gyűjti (nevezzük decentralizált piaci alapúnak). RLHF?), szerintem érdemes megvizsgálni. Itt az ideje, hogy jobban megvizsgáljuk az ehhez hasonló használati eseteket, mert a blokklánc skálázás végre sikerrel jár, és végre „mikro” bármit életképessé tesz a láncon, amikor korábban gyakran nem volt az.
Az alkalmazások egy kapcsolódó kategóriája a nagymértékben autonóm ágensek irányába mutat blokkláncok használata a jobb együttműködés érdekében, akár fizetéssel, akár intelligens szerződések használatával hiteles kötelezettségvállalások megtételére.
AI mint interfész a játékhoz
Egy ötlet, amit felvetettem magamban írásairól az az elképzelés, hogy van piaci lehetőség olyan felhasználóbarát szoftverek írására, amelyek a felhasználók érdekeit védik azáltal, hogy értelmezik és azonosítják a veszélyeket az online világban, amelyben a felhasználó navigál. Ennek egyik már létező példája a Metamask átverésészlelő funkciója:
Lehetséges, hogy az ilyen típusú eszközöket túl lehet tölteni az AI-val. A mesterséges intelligencia sokkal gazdagabb, emberbarát magyarázatot adhat arra vonatkozóan, hogy milyen dapp-ben vesz részt, milyen bonyolultabb műveletek következményei lehetnek, amelyeket aláír, akár valódi-e egy adott token (pl. BITCOIN
nem csak egy karaktersorozat, ez egy tényleges kriptovaluta neve, amely nem ERC20 token, és amelynek ára 0.045 dollárnál jóval magasabb, és ezt egy modern LLM tudná), és így tovább. Vannak olyan projektek, amelyek egészen ebbe az irányba kezdenek eljutni (pl LangChain pénztárca, amely az AI-t használja a elsődleges felület). Saját véleményem az, hogy a tiszta mesterséges intelligencia interfészek jelenleg valószínűleg túl kockázatosak, mivel növelik annak kockázatát egyéb fajta hibák, de a hagyományosabb interfészt kiegészítő AI egyre életképessé válik.
Érdemes megemlíteni egy különleges kockázatot. Erről bővebben az alábbi „AI, mint játékszabály” című részben térek ki, de az általános probléma az ellenséges gépi tanulás: ha egy felhasználó hozzáfér egy mesterséges intelligencia asszisztenshez egy nyílt forráskódú pénztárcán belül, akkor a rosszfiúk is hozzáférhetnek ehhez az AI-asszisztenshez, így korlátlan lehetőségük lesz arra, hogy optimalizálják átveréseiket, hogy ne induljanak el. hogy a pénztárca védelme. Minden modern AI-ban vannak hibák valahol, és ez nem túl nehéz egy edzési folyamathoz, még akkor sem, ha csak az van korlátozott hozzáférés a modellhez, megtalálni őket.
Ez az a hely, ahol a „láncon belüli mikropiacokon részt vevő mesterséges intelligencia” jobban működik: minden egyes mesterséges intelligencia sebezhető ugyanazokkal a kockázatokkal szemben, de Ön szándékosan egy nyitott ökoszisztémát hoz létre több tucat emberből, akik folyamatosan iterálják és fejlesztik ezeket. Továbbá minden egyes mesterséges intelligencia zárt: a rendszer biztonsága a szabályok nyitottságából fakad játék, nem mindegyik belső működése játékos.
Összefoglaló: A mesterséges intelligencia egyszerű nyelven segíthet a felhasználóknak abban, hogy megértsék, mi történik, valós idejű oktatóként szolgálhat, megvédheti a felhasználókat a hibáktól, de figyelmeztetni kell, ha közvetlenül a rosszindulatú félreinformátorok és csalók ellen próbálják használni.
Az AI mint a játékszabály
Most elérkeztünk ahhoz az alkalmazáshoz, amely sok embert izgatott, de szerintem a legkockázatosabb, és ahol a legóvatosabbnak kell lépnünk: amit én AI-nak nevezek, az a játékszabályok része. Ez a mainstream politikai elit izgalmához kapcsolódik az „AI-bírák” iránt (pl ezt a cikket a „World Government Summit” honlapján), és ezeknek a vágyaknak analógjai vannak a blokklánc-alkalmazásokban. Ha egy blokklánc-alapú intelligens szerződésnek vagy egy DAO-nak szubjektív döntést kell hoznia (pl. elfogadható-e egy adott munkatermék egy bérmunka-szerződésben? Melyik a helyes értelmezése egy olyan természetes nyelvi alkotmánynak, mint az Optimizmus A láncok törvénye?), meg tudná tenni, hogy egy mesterséges intelligencia egyszerűen a szerződés vagy a DAO része legyen, hogy segítsen betartani ezeket a szabályokat?
Ez az, ahol ellenséges gépi tanulás rendkívül kemény kihívás lesz. Az alapvető kétmondatos miért érv a következő:
Ha egy mechanizmusban kulcsszerepet játszó AI-modellt bezárják, nem tudja ellenőrizni a belső működését, és így nem jobb, mint egy központi alkalmazás. Ha az AI-modell nyitva van, akkor a támadó letöltheti és helyben szimulálhatja, és erősen optimalizált támadásokat tervezhet a modell megtévesztésére, amelyeket aztán újra lejátszhat az élő hálózaton.
Nos, ennek a blognak a gyakori olvasói (vagy a kriptoverzum lakói) talán már megelőznek engem, és azt gondolják: de várj! Vannak díszes nulla tudású bizonyítványaink és a titkosítás más igazán klassz formái. Biztosan tudunk kriptomágiát csinálni, és elrejteni a modell belső működését, hogy a támadók ne tudják optimalizálni a támadásokat, ugyanakkor bizonyítani hogy a modellt megfelelően hajtják végre, és ésszerű betanítási folyamattal hozták létre a mögöttes adatok ésszerű halmazán!
Normális esetben ez pontosan az a fajta gondolkodásmód, amelyet ebben a blogban és más írásaimban egyaránt képviselek. Az MI-vel kapcsolatos számítások esetében azonban két fő ellenvetés van:
- Kriptográfiai rezsi: sokkal kevésbé hatékony valamit a SNARK-ban (vagy MPC-n vagy…) belül csinálni, mint „tisztán”. Tekintettel arra, hogy a mesterséges intelligencia már most is nagyon számításigényes, számítástechnikailag is életképes-e az MI a kriptográfiai fekete dobozokon belül?
- Black-box ellenséges gépi tanulási támadások: vannak módok az AI-modellek elleni támadások optimalizálására anélkül is, hogy sokat tudna a modell belső működéséről. És ha elbújik túl sok, akkor azt kockáztatja, hogy aki a képzési adatokat választja, túlságosan könnyen elrontja a modellt mérgezés támadások.
Mindkettő bonyolult nyúlüreg, ezért nézzük meg mindegyiket sorra.
Kriptográfiai rezsi
A kriptográfiai modulok, különösen az általános célú eszközök, mint a ZK-SNARK és az MPC, magas rezsivel rendelkeznek. Egy Ethereum blokk esetében néhány száz ezredmásodperc kell ahhoz, hogy az ügyfél közvetlenül ellenőrizze, de egy ZK-SNARK generálása az ilyen blokk helyességének bizonyítására órákig tarthat. A többi kriptográfiai eszköz, például az MPC jellemző rezsije még rosszabb is lehet. A mesterséges intelligencia számítása már most is drága: a legerősebb LLM-ek csak valamivel gyorsabban tudják kiadni az egyes szavakat, mint az emberi lények, nem is beszélve a sokszor több millió dolláros számítási költségről. edzés a modellek. Minőségi különbség a csúcsmodellek és a sokkal többet spórolni próbáló modellek között képzési költség or paraméterek száma nagy. Első pillantásra ez nagyon jó ok arra, hogy gyanakodjunk az egész projekttel szemben, amely szerint a mesterséges intelligencia kriptográfiába burkolva próbál garanciákat adni az AI-hoz.
Szerencsére azonban Az AI egy nagyon specifikus típus a számítások, ami alkalmassá teszi mindenféle optimalizálásra hogy az olyan „strukturálatlan” típusú számítások, mint a ZK-EVM-ek, nem profitálhatnak. Vizsgáljuk meg egy mesterséges intelligencia modell alapvető felépítését:
y = max(x, 0)
). Aszimptotikusan a mátrixszorzások veszik el a munka nagy részét: a kettő szorzása N*N
mátrixok �(�2.8) időt vesz igénybe, míg a nemlineáris műveletek száma sokkal kisebb. Ez nagyon kényelmes a kriptográfia számára, mert a kriptográfia számos formája szinte „ingyen” képes lineáris műveleteket végezni (ami a mátrixszorzás, legalábbis ha titkosítja a modellt, de nem a bemeneteit)..
Ha Ön kriptográfus, valószínűleg hallott már hasonló jelenségről a következővel kapcsolatban homomorf titkosítás: előadó kiegészítések titkosított rejtjelezett szövegeken nagyon egyszerű, de szorzások hihetetlenül kemények, és 2009-ig nem találtunk rá semmilyen módot arra, hogy korlátlan mélységgel megcsináljuk.
A ZK-SNARK esetében az egyenértékű ehhez hasonló protokollok 2013-ból, amelyek a kevesebb, mint 4x mátrixszorzások bizonyításának többletköltsége. Sajnos a nemlineáris rétegek rezsije még mindig jelentős, és a gyakorlatban a legjobb megvalósítások körülbelül 200-szoros többletköltséget mutatnak. De van remény arra, hogy ez további kutatásokkal nagymértékben csökkenthető; lát ezt az előadást Ryan Caotól a GKR-n alapuló közelmúltbeli megközelítéshez és a sajátomhoz a GKR fő komponensének működésének egyszerűsített magyarázata.
De sok alkalmazás esetében nem csak azt akarjuk bizonyítani azt is szeretnénk, hogy egy AI kimenetet helyesen számoltak ki elrejteni a modellt. Vannak naiv megközelítések erre: feloszthatja a modellt úgy, hogy az egyes rétegeket redundánsan más szerverkészlet tárolja, és reméljük, hogy a rétegek egy részét kiszivárgó szerverek nem szivárogtatnak ki túl sok adatot. De vannak meglepően hatékony formái is speciális többpárti számítás.
A történet morálja mindkét esetben ugyanaz: A mesterséges intelligencia számításának legnagyobb részét a mátrixszorzások teszik ki, amelyekre lehetőség van nagyon hatékony ZK-SNARK-ok vagy MPC-k (vagy akár FHE), így a mesterséges intelligencia kriptográfiai dobozokba helyezésének összköltsége meglepően alacsony.. Általában a nemlineáris rétegek jelentik a legnagyobb szűk keresztmetszetet kisebb méretük ellenére; talán újabb technikák, mint pl keresési argumentumok segíthet.
Fekete doboz ellenséges gépi tanulás
Most pedig térjünk rá a másik nagy problémára: azokra a támadásokra, amelyeket megtehet még ha a modell tartalma privát marad, és Önnek csak „API-hozzáférése” van a modellhez. Idézve a papír az 2016-ből:
Sok gépi tanulási modell ki van téve az ellentmondásos példáknak: olyan bemenetek, amelyeket kifejezetten úgy alakítottak ki, hogy a gépi tanulási modell hibás kimenetet állítson elő. Az egyik modellre ható ellentétes példák gyakran egy másik modellre is hatással vannak, még akkor is, ha a két modell eltérő architektúrával rendelkezik, vagy különböző képzési készletekre lettek kiképezve, mindaddig, amíg mindkét modellt ugyanannak a feladatnak a végrehajtására képezték ki.. A támadó ezért kiképezheti saját helyettesítő modelljét, ellenséges példákat készíthet a helyettesítő ellen, és átviheti őket egy áldozati modellre, nagyon kevés információval az áldozatról.
Lehetséges, hogy akár támadásokat is létrehozhat ennek tudatában csak az edzésadatokat, még akkor is, ha nagyon korlátozottan vagy egyáltalán nem fér hozzá a támadni kívánt modellhez. 2023-tól kezdve az ilyen típusú támadások továbbra is nagy problémát jelentenek.
Az ilyen típusú feketedoboz-támadások hatékony visszaszorításához két dolgot kell tennünk:
- Tényleg korlátozza, hogy ki vagy mi kérdezheti le a modellt és mennyi. A korlátlan API-hozzáféréssel rendelkező fekete dobozok nem biztonságosak; nagyon korlátozott API-hozzáféréssel rendelkező fekete dobozok lehetnek.
- Az edzésadatok elrejtése a magabiztosság megőrzése mellett hogy a képzési adatok létrehozásához használt folyamat nem sérült.
Az előbbiben a legtöbbet elért projekt talán a Worldcoin, amelynek egy korábbi verzióját (többek között) hosszasan elemzem. itt. A Worldcoin széles körben alkalmaz mesterséges intelligencia modelleket protokoll szinten, hogy (i) az írisz-letapogatásokat rövid „íriszkódokká” alakítsa át, amelyeket könnyű összehasonlítani a hasonlóság szempontjából, és (ii) ellenőrizze, hogy a vizsgált dolog valóban ember-e. A fő védelem, amelyre a Worldcoin támaszkodik, az a tény nem engedi, hogy bárki egyszerűen behívja az AI modellt: inkább megbízható hardvert használ annak biztosítására, hogy a modell csak a gömb kamerája által digitálisan aláírt bemeneteket fogadja el..
Ez a megközelítés nem garantáltan működik: kiderült, hogy ellenséges támadásokat hajthat végre a biometrikus mesterséges intelligencia ellen, amelyek fizikai tapaszok vagy ékszerek, amelyeket az arcára helyezhet:
De a remény az, hogy ha kombinálja az összes védelmet, elrejti magát az AI-modellt, nagymértékben korlátozza a lekérdezések számát, és megköveteli, hogy minden lekérdezést valamilyen módon hitelesítsenek, így az ellenséges támadások elég nehézkesek ahhoz, hogy a rendszer biztonságos legyen.
És ezzel eljutottunk a második részhez: hogyan rejthetjük el az edzési adatokat? Ez az, ahol A „DAO-k a mesterséges intelligencia demokratikus kormányzására” valójában logikus lehet: létrehozhatunk egy láncon belüli DAO-t, amely szabályozza azt a folyamatot, hogy ki küldhet be képzési adatokat (és milyen tanúsítványok szükségesek magukon az adatokon), kinek és mennyi a lekérdezése, valamint olyan kriptográfiai technikákat alkalmazhatunk, mint az MPC. az AI létrehozásának és futtatásának teljes folyamatának titkosítása az egyes felhasználók oktatási bemenetétől egészen az egyes lekérdezések végső kimenetéig. Ez a DAO egyidejűleg kielégítheti azt a rendkívül népszerű célt, hogy kompenzálja az embereket az adatok benyújtásáért.
- A kriptográfiai rezsi még mindig túl magas lehet hogy ez a fajta teljesen fekete doboz architektúra versenyképes legyen a hagyományos zárt „bízz bennem” megközelítésekkel.
- Az is kiderülhet nincs jó módszer a képzési adatok benyújtási folyamatának decentralizálttá tételére és a védett mérgezési támadások ellen.
- A többpárti számítástechnikai modulok elromolhatnak miatti biztonsági vagy adatvédelmi garanciáik a résztvevők összejátszanak: végül is ez történt a cross-chain kriptovaluta hidakkal újra és a újra.
Az egyik oka annak, hogy miért nem kezdtem el ezt a részt több nagy piros figyelmeztető címkével: „NE CSINÁLJON MI-BÍRÁKAT, EZ DISZTÓPIA”, az az, hogy társadalmunk már most is nagymértékben függ az elszámoltathatatlan központosított AI-bíráktól: azoktól az algoritmusoktól, amelyek meghatározzák, hogy milyen A közösségi médiában a posztok és a politikai vélemények fellendülnek és lelassulnak, vagy akár cenzúrázzák is. Szerintem ez a tendencia kiterjesztése további ebben a szakaszban elég rossz ötlet, de nem hiszem, hogy nagy esély van rá az AI-kkal kísérletező blokklánc közösség többet lesz az, ami hozzájárul a helyzet súlyosbodásához.
Valójában van néhány alapvető, alacsony kockázatú módszer, amellyel a kriptotechnológia még ezeket a meglévő központosított rendszereket is jobbá teheti, amiben eléggé magabiztos vagyok. ellenőrzött AI késleltetett közzététellel: amikor egy közösségi média webhely mesterséges intelligencia alapú rangsort készít a bejegyzésekről, közzétehet egy ZK-SNARK-ot, amely bizonyítja a rangsort létrehozó modell hash-ét. Az oldal kötelezettséget vállalhat arra, hogy felfedi AI modelljeit, miután pl. egy éves késés. Amint egy modell megjelenik, a felhasználók ellenőrizhetik a hash-t, hogy megbizonyosodjanak arról, hogy a megfelelő modellt adták ki, a közösség pedig teszteket futtathat a modellen, hogy ellenőrizze annak igazságosságát. A közzététel késése biztosítaná, hogy mire a modell nyilvánosságra kerül, az már elavult.
Tehát ahhoz képest központosított világ, a kérdés nem az if tehetünk jobbat is, de mennyivel. A decentralizált világazonban fontos, hogy legyen óvatos: ha valaki épít pl. egy jóslati piac vagy egy stablecoin, amely mesterséges intelligencia-oákulumot használ, és kiderül, hogy az orákulum támadható, ez egy hatalmas összeg, amely egy pillanat alatt eltűnhet.
AI mint a játék célja
Ha a fenti technikák egy skálázható, decentralizált privát mesterséges intelligencia létrehozására, amelynek tartalma egy senki által nem ismert fekete doboz, valóban működnek, akkor ez a blokkláncokon túlmutató AI-k létrehozására is használható. A NEAR protokoll csapata ezt a folyamatban lévő munkájuk fő célja.
Ennek két oka van:
- ha te tud készítmegbízható fekete doboz AI-k” a betanítási és következtetési folyamat futtatásával a blokkláncok és az MPC valamilyen kombinációjával, akkor sok olyan alkalmazás profitálhat belőle, ahol a felhasználók attól tartanak, hogy a rendszer elfogult vagy megcsalja őket. Sokan kifejezték vágyukat demokratikus kormányzás rendszerszinten fontos mesterséges intelligencia hogy függni fogunk; A kriptográfiai és blokklánc-alapú technikák utat jelenthetnek ehhez.
- Egy AI biztonság Ez egy olyan decentralizált mesterséges intelligencia létrehozásának technikája, amely természetes kioltókapcsolóval is rendelkezik, és korlátozhatja azokat a lekérdezéseket, amelyek az AI-t rosszindulatú viselkedésre kívánják használni.
Azt is érdemes megjegyezni, hogy „a kriptográfiai ösztönzőket a mesterséges intelligencia javításának ösztönzésére használni” anélkül is megtehető, hogy a kriptográfia használatával teljes mértékben titkosítanunk kell: olyan megközelítések, mint pl. BitTensor ebbe a kategóriába tartoznak.
Következtetések
Most, hogy a blokkláncok és az AI-k is egyre erősebbek, egyre több felhasználási eset van a két terület metszéspontjában. Néhány ilyen használati eset azonban sokkal értelmesebb, és sokkal robusztusabb, mint mások. Általában olyan felhasználási esetek, amikor a mögöttes mechanizmus továbbra is nagyjából úgy van kialakítva, mint korábban, de az egyén játékos AI-kká válnak, amelyek lehetővé teszik, hogy a mechanizmus sokkal kisebb léptékben hatékonyan működjön, a legígéretesebbek és a legkönnyebben megoldhatóak.
A legnagyobb kihívást azoknak az alkalmazásoknak a megoldása jelenti, amelyek blokkláncokat és kriptográfiai technikákat próbálnak használni egy „singleton” létrehozására: egyetlen decentralizált megbízható mesterséges intelligencia létrehozására, amelyre egyes alkalmazások valamilyen célból támaszkodnának. Ezek az alkalmazások ígéretesek mind a funkcionalitás, mind a mesterséges intelligencia biztonságának javítása terén oly módon, hogy elkerülhetőek a probléma általánosabb megközelítéseihez kapcsolódó centralizációs kockázatok. De számos módja van annak, hogy a mögöttes feltételezések megbukhatnak; ezért érdemes körültekintően járni, különösen akkor, ha ezeket az alkalmazásokat nagy értékű és nagy kockázatú környezetekben telepíti.
Várom a további kísérleteket az AI konstruktív felhasználási eseteire ezeken a területeken, így láthatjuk, hogy ezek közül melyek valóban életképesek a skálán.
Szerző: Vitalik Buterin
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- BlockOffsets. A környezetvédelmi ellentételezési tulajdon korszerűsítése. Hozzáférés itt.
- Forrás: Platón adatintelligencia.