Autor: Vitalik Buterin kaudu Vitalik Buterini ajaveeb
Eriline tänu Worldcoini ja Modulus Labsi meeskondadele, Xinyuan Sunile, Martin Koeppelmannile ja Illia Polosukhinile tagasiside ja arutelu eest.
Paljud inimesed on aastate jooksul minult sarnase küsimuse esitanud: millised on ristmikud krüpto ja AI vahel, mida pean kõige viljakamaks? See on mõistlik küsimus: krüpto ja AI on viimase kümnendi kaks peamist süvatehnoloogia (tarkvara) suundumust ja tundub, et seal on peab olema mingi seos nende kahe vahel. Pealiskaudsel tasandil on lihtne sünergiaid luua: krüptodetsentraliseerimine võib tasakaalustada AI tsentraliseerimist, AI on läbipaistmatu ja krüpto toob läbipaistvuse, AI vajab andmeid ja plokiahelad on head andmete salvestamiseks ja jälgimiseks. Kuid aastate jooksul, kui inimesed palusid mul süveneda ja konkreetsetest rakendustest rääkida, on minu vastus olnud pettumust valmistav: "jah, seal on paar asja, aga mitte nii palju".
Viimase kolme aasta jooksul, kui on tõusnud palju võimsam AI moodsa kujul LLM-idja palju võimsama krüpto tõusu mitte ainult plokiahela skaleerimise lahenduste, vaid ka ZKP-d, FHE, (kahe osapoole ja N-partei) MPC, hakkan seda muutust nägema. Tõepoolest, plokiahela ökosüsteemides on AI paljutõotavaid rakendusi AI koos krüptograafiaga, kuigi on oluline olla tehisintellekti rakendamisel ettevaatlik. Eriline väljakutse on: krüptograafias on avatud lähtekoodiga ainus viis midagi tõeliselt turvaliseks muuta, kuid tehisintellektis on mudel (või isegi selle koolitusandmed) avatud. suurendab oluliselt selle haavatavus võistlev masinõpe rünnakud. See postitus käsitleb erinevate viiside klassifikatsiooni, kuidas krüpto + AI võivad ristuda, ning iga kategooria väljavaated ja väljakutsed.
Kõrgetasemeline kokkuvõte krüpto+AI ristumiskohtadest alates a uETH ajaveebi postitus. Kuid mida on vaja nende sünergiate tegelikuks realiseerimiseks konkreetses rakenduses?
Neli peamist kategooriat
AI on väga lai mõiste: te võite mõelda, et AI on algoritmide kogum, mille loote mitte neid selgesõnaliselt täpsustades, vaid pigem segades suurt arvutuslikku suppi ja avaldades mingit optimeerimissurvet, mis suppi nihutab. soovitud omadustega algoritmide loomine. Seda kirjeldust ei tohiks kindlasti halvustavalt võtta: see hõlmab the,en protsess et loodud meie, inimesed, ennekõike! Kuid see tähendab, et AI-algoritmidel on mõned ühised omadused: nende võime teha asju, mis on äärmiselt võimsad, koos piirangutega meie võimele teada saada või mõista, mis kapoti all toimub.
AI kategoriseerimiseks on palju võimalusi; selle postituse jaoks, mis räägib interaktsioonidest AI ja plokiahelate vahel (mida on kirjeldatud kui platvormi "mängude" loomine), liigitan selle järgmiselt:
- AI mängijana mängus [kõrgeim elujõulisus]: Tehisintellektid osalevad mehhanismides, kus stiimulite lõplik allikas pärineb inimsisendiga protokollist.
- AI kui mängu liides [suur potentsiaal, kuid riskidega]: Tehisintellekt aitab kasutajatel mõista neid ümbritsevat krüptomaailma ja tagada, et nende käitumine (st allkirjastatud sõnumid ja tehingud) vastaks nende kavatsustele ning et neid ei pettata ega petta.
- AI kui mängureeglid [talvi väga ettevaatlikult]: plokiahelad, DAO-d ja sarnased mehhanismid, mis kutsuvad otse tehisintellekti. Mõtle nt. "AI kohtunikud"
- AI kui mängu eesmärk [pikem, kuid intrigeeriv]: plokiahelate, DAO-de ja sarnaste mehhanismide kavandamine eesmärgiga luua ja hooldada tehisintellekti, mida saaks kasutada muudel eesmärkidel, kasutades krüptobitte kas koolituse paremaks motiveerimiseks või tehisintellekti privaatsete andmete lekitamise või väärkasutamise vältimiseks.
Vaatame need ükshaaval läbi.
AI kui mängija mängus
See on tegelikult kategooria, mis on eksisteerinud peaaegu kümme aastat, vähemalt sellest ajast ketisisesed detsentraliseeritud börsid (DEX-id) hakkas nägema märkimisväärset kasutamist. Iga kord, kui toimub vahetus, on võimalus arbitraaži kaudu raha teenida ja robotid saavad arbitraaži teha palju paremini kui inimesed. See kasutusjuhtum on eksisteerinud pikka aega, isegi palju lihtsamate tehisintellektidega kui see, mis meil praegu on, kuid lõppkokkuvõttes on see väga tõeline AI + krüpto ristumiskoht. Viimasel ajal oleme näinud MEV-i arbitraažiboteid kasutavad sageli üksteist ära. Iga kord, kui teil on plokiahela rakendus, mis hõlmab oksjoneid või kauplemist, on teil arbitraažirobotid.
Kuid tehisintellekti arbitraažibotid on vaid esimene näide palju suuremast kategooriast, mis arvatavasti hakkab peagi hõlmama paljusid muid rakendusi. Tutvuge AIOmeniga, a ennustusturu demo, kus AI-d on osalised:
Üks vastus sellele on osutada käimasolevatele UX-i täiustustele Polümarket või muudel uutel ennustusturgudel ja loodan, et need õnnestuvad seal, kus eelmised iteratsioonid on ebaõnnestunud. Lõppude lõpuks, lugu ütleb, inimesed on nõus kihla vedama kümneid miljardeid spordile, miks ei viskaks inimesed USA valimistele panustades piisavalt raha sisse või LK99 et tõsiseltvõetavatel mängijatel hakkab mõte tulema? Kuid see argument peab võitlema tõsiasjaga, et noh, eelmised iteratsioonid olema ei jõudnud sellele skaala tasemele (vähemalt võrreldes nende pooldajate unistustega) ja seega tundub, et vajate midagi uut ennustusturgude õnnestumiseks. Seega on teistsugune vastus osutada ennustatavate turu ökosüsteemide ühele spetsiifilisele tunnusele, mida võime oodata 2020. aastatel ja mida me 2010. aastatel ei näinud: tehisintellektide kõikjal osalemise võimalus.
Tehisintellektid on valmis töötama vähem kui 1 dollari eest tunnis ja neil on teadmised entsüklopeediast – ja kui sellest ei piisa, saab neid integreerida isegi reaalajas veebiotsingu funktsiooniga. Kui teete turu ja annate 50-dollarilise likviidsustoetuse, ei hooli inimesed pakkumiste tegemisest piisavalt, kuid tuhanded tehisintellektid kubisevad kergesti üle kogu küsimuse ja teevad oma parima oletuse. Motiiv teha mis tahes küsimuses head tööd võib olla väike, kuid stiimul luua tehisintellekt, mis teeb häid ennustusi üldiselt võib olla miljonites. Pange tähele, et potentsiaalselt enamiku küsimuste lahendamiseks pole isegi inimesi vaja: saate kasutada sarnast mitmevoorulist vaidluste süsteemi Augur või Kleros, kus AI-d osaleksid ka varasemates voorudes. Inimestel oleks vaja reageerida vaid neil vähestel juhtudel, kui on toimunud rida eskalatsioone ja mõlemad pooled on pannud toime suuri summasid.
See on võimas primitiiv, sest kui "ennustuste turg" saab sellisel mikroskoopilisel skaalal tööle panna, saate "ennustuste turu" primitiivi taaskasutada paljude muude küsimuste jaoks:
- Kas see sotsiaalmeedia postitus on [kasutustingimuste] alusel vastuvõetav?
- Mis saab aktsia X hinnaga (nt vt Numerai)
- Kas see konto, mis mulle praegu sõnumeid saadab, on tõesti Elon Musk?
- Kas see töö esitamine veebipõhisel ülesannete turul on vastuvõetav?
- Kas dapp aadressil https://examplefinance.network on pettus?
- Is
0x1b54....98c3
tegelikult "Casinu Inu" ERC20 märgi aadress?
Võite märgata, et paljud neist ideedest lähevad sellesse suunda, mida ma nimetasin "infokaitse” sisse . Laias laastus on küsimus: kuidas aidata kasutajatel eristada tõest ja vale teavet ning avastada pettusi, ilma et tsentraliseeritud asutus saaks otsustada õige ja vale üle, kes võib seda positsiooni kuritarvitada? Mikrotasandil võib vastus olla "AI". Kuid makrotasandil on küsimus: kes ehitab tehisintellekti? AI peegeldab selle loonud protsessi ja seega ei saa vältida eelarvamusi. Seetõttu on vaja kõrgema taseme mängu, mis hindab erinevate tehisintellektide edenemist, kus tehisintellektid saavad mängus mängijatena osaleda..
Selline tehisintellekti kasutamine, kus tehisintellekt osaleb mehhanismis, kus neid lõpuks premeeritakse või karistatakse (tõenäoliselt) ahelasisese mehhanismi abil, mis kogub inimestelt sisendeid (nimetage seda detsentraliseeritud turupõhiseks RLHF?), on midagi, mida minu arvates tasub tõesti uurida. Nüüd on õige aeg taoliste kasutusjuhtumitega rohkem tutvuda, sest plokiahela skaleerimine on lõpuks õnnestunud, muutes kõik “mikro” lõpuks ketis elujõuliseks, kui see sageli varem polnud.
Seotud rakenduste kategooria läheb väga autonoomsete agentide suunas plokiahelate kasutamine paremaks koostööks, kas maksete või nutikate lepingute abil, et võtta usaldusväärseid kohustusi.
AI kui mängu liides
Üks idee, mille ma enda sees välja tõin kirjutised kohta on idee, et turul on võimalus kirjutada kasutajale suunatud tarkvara, mis kaitseks kasutajate huve, tõlgendades ja tuvastades ohte võrgumaailmas, milles kasutaja navigeerib. Üks juba olemasolev näide sellest on Metamaski kelmuse tuvastamise funktsioon:
Võimalik, et selliseid tööriistu saab AI-ga üle laadida. Tehisintellekt võib anda palju inimsõbralikuma selgituse selle kohta, millises dappis te osalete, millised on keerulisemate toimingute tagajärjed, millele te alla kirjutate, kas konkreetne märk on ehtne või mitte (nt. BITCOIN
ei ole lihtsalt tähemärkide jada, see on tegeliku krüptovaluuta nimi, mis ei ole ERC20 token ja mille hind on kõrgem kui 0.045 dollarit ja kaasaegne LLM teaks seda) ja nii edasi. On projekte, mis hakkavad selles suunas jõudma (nt LangChaini rahakott, mis kasutab AI-d kui a esmane liides). Minu enda arvamus on, et puhtad AI-liidesed on praegu ilmselt liiga riskantsed, kuna see suurendab riski muu tüüpi vigu, kuid tavapärasemat liidest täiendav tehisintellekt on muutumas väga elujõuliseks.
Mainimist väärib üks konkreetne risk. Ma käsitlen seda lähemalt allpool jaotises „AI kui mängureeglid”, kuid Üldine probleem on võistlev masinõpe: kui kasutajal on avatud lähtekoodiga rahakotis juurdepääs AI-assistendile, on ka pahalastel juurdepääs sellele tehisintellekti assistendile ja seega on neil piiramatu võimalus oma pettusi optimeerida, et mitte käivitada. selle rahakoti kaitsemehhanismid. Kõigil tänapäevastel tehisintellektidel on kuskil vead ja see pole treeningprotsessi jaoks liiga raske, isegi kui see on ainult piiratud juurdepääs mudelile, et neid leida.
See on koht, kus "ahelasisestel mikroturgudel osalevad AI-d" toimivad paremini: iga üksik tehisintellekt on samade riskide suhtes haavatav, kuid te loote tahtlikult avatud ökosüsteemi, mis koosneb kümnetest inimestest, kes neid pidevalt kordavad ja täiustavad. Lisaks on iga AI suletud: süsteemi turvalisus tuleneb reeglite avatusest mäng, mitte igaühe sisemine töö mängija.
Kokkuvõte: AI võib aidata kasutajatel toimuvast aru saada lihtsas keeles, see võib olla reaalajas juhendaja, kaitsta kasutajaid vigade eest, kuid hoiatada, kui proovite seda kasutada otse pahatahtlike desinformaatorite ja petturite eest.
AI kui mängureeglid
Nüüd jõuame rakenduseni, millest paljud inimesed on põnevil, kuid mis on minu arvates kõige riskantsem ja kus me peame kõige ettevaatlikumalt liikuma: see, mida ma nimetan, on AI, mis on osa mängureeglitest. See seostub peavoolu poliitilise eliidi seas põnevusega "AI kohtunike" suhtes (nt vt Käesoleva artikli “Maailma valitsuse tippkohtumise” veebisaidil) ja nende soovide analooge on plokiahela rakendustes. Kui plokiahelal põhinev nutikas leping või DAO peab tegema subjektiivse otsuse (nt kas konkreetne töötoode on rendilepingus vastuvõetav? Milline on loomuliku keele põhiseaduse, nagu optimism, õige tõlgendus Kettide seadus?), kas saaksite teha tehisintellekti lihtsalt lepingu osaks või DAO-ks, et aidata neid reegleid jõustada?
Siin saab Teid võistlev masinõpe saab olema äärmiselt raske väljakutse. Põhiline kahelauseline argument miks on järgmine:
Kui AI-mudel, mis mängib mehhanismis võtmerolli, on suletud, ei saa te selle sisemist tööd kontrollida ja seega pole see parem kui tsentraliseeritud rakendus. Kui AI-mudel on avatud, saab ründaja selle kohapeal alla laadida ja simuleerida ning mudeli petmiseks kavandada tugevalt optimeeritud rünnakuid, mida nad saavad seejärel reaalajas võrgus uuesti esitada.
Nüüd võivad selle ajaveebi sagedased lugejad (või krüptoverssi elanikud) minust juba ette jõuda ja mõelda: aga oota! Meil on väljamõeldud nullteadmiste tõestused ja muud väga lahedad krüptograafiavormid. Kindlasti saame teha krüptomaagiat ja peita mudeli sisemised tööd, et ründajad ei saaks rünnakuid optimeerida, kuid samal ajal tõestama et mudelit täidetakse õigesti ja see on konstrueeritud mõistliku koolitusprotsessi abil mõistliku alusandmete kogumi põhjal!
Tavaliselt on see nii täpselt mõtteviisi, mida propageerin nii siin blogis kui ka oma teistes kirjutistes. Kuid tehisintellektiga seotud arvutuste puhul on kaks peamist vastuväidet:
- Krüptograafiline üldkulud: SNARKis (või MPC-s või…) midagi teha on palju vähem tõhus kui "selgelt". Arvestades, et tehisintellekt on juba väga arvutusmahukas, siis kas tehisintellekti tegemine krüptograafilistes mustades kastides on isegi arvutuslikult elujõuline?
- Musta kasti võistlevad masinõppe rünnakud: on võimalusi AI mudelite vastu suunatud rünnakute optimeerimiseks isegi palju teadmata mudeli sisemise töö kohta. Ja kui peidad liiga palju, riskite sellega, et see, kes valib treeninguandmed, muudab mudeli rikkumise liiga lihtsaks mürgitus rünnakud.
Mõlemad on keerulised jäneseaugud, nii et käsitleme neid kordamööda.
Krüptograafiline üldkulud
Krüptograafilistel vidinatel, eriti üldotstarbelistel, nagu ZK-SNARK ja MPC, on kõrge üldkulu. Ethereumi plokk võtab kliendil otse kontrollimiseks paarsada millisekundit, kuid ZK-SNARKi genereerimine sellise ploki õigsuse tõestamiseks võib võtta tunde. Teiste krüptograafiliste vidinate (nt MPC) tüüpilised üldkulud võivad olla veelgi hullemad. Tehisintellekti arvutamine on juba praegu kallis: võimsaimad LLM-id suudavad üksikuid sõnu väljastada vaid veidi kiiremini kui inimesed neid lugeda jõuavad, rääkimata sageli mitme miljoni dollari suurustest arvutuskuludest. koolitus mudelid. Kvaliteedi erinevus tipptasemel mudelite ja mudelite vahel, mis püüavad palju rohkem kokku hoida koolituse maksumus or parameetrite arv on suur. See on esmapilgul väga hea põhjus kahtlustada kogu projekti, mille käigus üritatakse tehisintellektile garantiisid lisada krüptograafiasse mähkides.
Õnneks aga AI on a väga spetsiifiline tüüp arvutamiseks, mis muudab selle sobivaks igasuguste optimeerimiste jaoks millest ei saa kasu struktureerimata arvutusviisid nagu ZK-EVM. Uurime AI mudeli põhistruktuuri:
y = max(x, 0)
). Asümptootiliselt võtavad maatrikskorrutused suurema osa tööst: kahe korrutamine N*N
maatriksid võtab �(�2.8) aega, samas kui mittelineaarsete operatsioonide arv on palju väiksem. See on krüptograafia jaoks väga mugav, sest paljud krüptograafia vormid suudavad peaaegu "tasuta" teha lineaarseid operatsioone (mis on maatrikskorrutised, vähemalt siis, kui krüpteerite mudeli, kuid mitte selle sisendeid)..
Kui olete krüptograaf, olete tõenäoliselt juba kuulnud sarnasest nähtusest kontekstis homomorfne krüpteerimine: esinemine täiendused krüptitud šifritekstide puhul on tõesti lihtne, kuid korrutised on uskumatult rasked ja me ei leidnud kuni 2009. aastani välja ühtegi võimalust, kuidas seda piiramatu sügavusega teha.
ZK-SNARKide puhul on samaväärne sellised protokollid nagu see 2013. aastast, mis näitavad a vähem kui 4x üldkulud maatrikskorrutuste tõestamisel. Kahjuks on mittelineaarsete kihtide üldkulud siiski märkimisväärsed ja praktikas näitavad parimad teostused ligikaudu 200-kordset. Kuid on lootust, et seda saab edasiste uuringute abil oluliselt vähendada; vaata see ettekanne Ryan Caolt hiljutise lähenemisviisi jaoks, mis põhineb GKR-il ja minu enda omal lihtsustatud selgitus, kuidas GKR põhikomponent töötab.
Kuid paljude rakenduste puhul me lihtsalt ei taha tõestama et tehisintellekti väljund arvutati õigesti, tahame ka seda peita mudel. Selle jaoks on naiivseid lähenemisviise: saate mudeli jagada nii, et iga kiht salvestaks üleliigselt erinevad serverid, ja loota, et mõned serverid, mis lekivad mõnda kihti, ei leki liiga palju andmeid. Kuid on ka üllatavalt tõhusaid vorme spetsiaalne mitme osapoole arvutus.
Mõlemal juhul on loo moraal sama: AI arvutuse suurima osa moodustavad maatrikskorrutised, mille jaoks on võimalik teha väga tõhus ZK-SNARK-id või MPC-d (või isegi FHE) ja seega on tehisintellekti krüptograafilistesse kastidesse paigutamise kogukulu üllatavalt väike. Üldiselt on mittelineaarsed kihid suurimaks kitsaskohaks vaatamata nende väiksemale suurusele; võib-olla uuemad tehnikad nagu argumentide otsimine aitab.
Musta kasti võistlev masinõpe
Liigume nüüd teise suure probleemi juurde: rünnakute tüübid, mida saate teha isegi kui mudeli sisu hoitakse privaatsena ja teil on mudelile ainult API juurdepääs. Tsiteerides a 2016i paber:
Paljud masinõppemudelid on vastuvõtlikud vastuoluliste näidete suhtes: sisendid, mis on spetsiaalselt loodud selleks, et masinõppemudel tekitaks vale väljundi. Vastuolulised näited, mis mõjutavad ühte mudelit, mõjutavad sageli teist mudelit, isegi kui kahel mudelil on erinev arhitektuur või neid on koolitatud erinevatel koolituskomplektidel, tingimusel et mõlemad mudelid on koolitatud täitma sama ülesannet. Ründaja võib seetõttu välja õpetada oma asendusmudeli, luua asendaja vastu võistlevaid näiteid ja kanda need üle ohvrimudelile, millel on ohvri kohta väga vähe teavet.
Võimalik, et saate isegi teades rünnakuid luua ainult treeninguandmed, isegi kui teil on väga piiratud juurdepääs või puudub juurdepääs mudelile, mida proovite rünnata. Alates 2023. aastast on seda tüüpi rünnakud jätkuvalt suur probleem.
Seda tüüpi musta kasti rünnakute tõhusaks piiramiseks peame tegema kahte asja:
- Tõesti piirata, kes või mis saab mudelit päringuid teha ja kui palju. Piiramatu API-juurdepääsuga mustad kastid ei ole turvalised; mustad kastid, millel on väga piiratud API juurdepääs.
- Peida treeningandmed, säilitades samas enesekindluse et treeningandmete loomiseks kasutatud protsess ei oleks rikutud.
Esimesel kõige rohkem ära teinud projekt on ehk Worldcoin, mille varasemat versiooni (muude protokollide hulgas) analüüsin pikemalt siin. Worldcoin kasutab AI-mudeleid laialdaselt protokolli tasemel, et (i) teisendada vikerkesta skaneeringud lühikesteks "iirisekoodideks", mida on sarnasuse osas lihtne võrrelda, ja (ii) kontrollida, kas skannitav asi on tegelikult inimene. Peamine kaitse, millele Worldcoin toetub, on asjaolu, et see ei lase kellelgi lihtsalt AI-mudelisse helistada: pigem kasutab see usaldusväärset riistvara tagamaks, et mudel aktsepteerib ainult orbi kaamera poolt digitaalselt allkirjastatud sisendeid.
Selle lähenemisviisi toimimine ei ole garanteeritud: selgub, et saate biomeetrilise AI vastu teha võistlevaid rünnakuid, mis esinevad füüsilised plaastrid või ehted, mida saate näole panna:
Aga lootus on, et kui sa ühendada kõik kaitsemehhanismid kokku, peites tehisintellekti mudelit ennast, piirates oluliselt päringute arvu ja nõudes iga päringu kuidagi autentimist, saate võistlevad rünnakud olla piisavalt keerulised, et süsteem oleks turvaline.
Ja see viib meid teise osani: kuidas me saame treeningandmeid peita? See on koht "DAO-d AI demokraatlikuks juhtimiseks" võib tegelikult olla mõttekas: saame luua ahelasisest DAO-d, mis juhib protsessi selle kohta, kellel on lubatud koolitusandmeid esitada (ja milliseid kinnitusi andmetel endal nõutakse), kellel on lubatud päringuid teha ja kui palju, ning kasutada krüptotehnikaid nagu MPC. krüpteerida kogu tehisintellekti loomise ja käitamise konveier alates iga üksiku kasutaja koolitussisendist kuni iga päringu lõppväljundini. See DAO võiks samaaegselt täita väga populaarset eesmärki hüvitada inimestele andmete esitamise eest.
- Krüptograafiline üldkulu võib ikkagi liiga kõrgeks osutuda et selline täiesti musta kasti arhitektuur oleks konkurentsivõimeline traditsiooniliste suletud "usalda mind" lähenemisviisidega.
- See võib selguda pole head viisi koolitusandmete esitamise protsessi detsentraliseerimiseks ja kaitstud mürgistusrünnakute vastu.
- Mitme osapoole arvutusvidinad võivad puruneda nende turvalisuse või privaatsuse garantiid osalejad kokkumängu: see on ju ahelatevaheliste krüptoraha sildadega juhtunud jälle ja jälle.
Üks põhjus, miks ma ei alustanud seda jaotist suuremate punaste hoiatussiltidega “ÄRA TEE AI KOHTUNIKKE, SEE ON DÜSTOOPIA”, on see, et meie ühiskond sõltub juba praegu väga vastutustundetutest tsentraliseeritud tehisintellekti kohtunikest: algoritmidest, mis määravad postitused ja poliitilised arvamused saavad sotsiaalmeedias hoogu ja deboostida või isegi tsenseerida. Ma arvan, et selle suundumuse laiendamine edasi praeguses etapis on see üsna halb mõte, kuid ma ei usu, et sellel on suur võimalus plokiahela kogukond katsetab tehisintellektiga rohkem on asi, mis selle hullemaks muudab.
Tegelikult on mõned üsna lihtsad madala riskiga viisid, kuidas krüptotehnoloogia võib isegi olemasolevaid tsentraliseeritud süsteeme paremaks muuta, milles ma olen üsna kindel. Üks lihtne tehnika on kinnitatud AI hilinenud avaldamisega: kui sotsiaalmeedia sait koostab postitustest tehisintellektil põhineva pingerea, võib see avaldada ZK-SNARKI, mis tõestab selle pingerea loonud mudeli räsi. Sait võiks lubada oma AI-mudelite avaldamist pärast nt. aastane viivitus. Kui mudel on avalikustatud, saavad kasutajad kontrollida räsi, et kontrollida, kas õige mudel on välja lastud, ja kogukond saaks mudelit testida, et kontrollida selle õiglust. Avaldamise viivitus tagaks selle, et mudeli avalikustamise ajaks on see juba aegunud.
Nii et võrreldes tsentraliseeritud maailm, küsimus pole selles if saame paremini teha, aga kui palju. Selle eest detsentraliseeritud maailmSiiski on oluline olla ettevaatlik: kui keegi ehitab nt. ennustuste turg või stabiilne münt, mis kasutab tehisintellekti oraaklit ja selgub, et oraakel on rünnatav, see on tohutu raha, mis võib hetkega kaduda.
AI kui mängu eesmärk
Kui ülaltoodud tehnikad skaleeritava detsentraliseeritud privaatse tehisintellekti loomiseks, mille sisu on must kast, mida keegi ei tea, tegelikult toimib, saab seda kasutada ka AI-de loomiseks, mille utiliidid ulatuvad plokiahelatest kaugemale. NEAR-i protokolli meeskond teeb seda a nende käimasoleva töö põhieesmärk.
Selleks on kaks põhjust.
- Kui sa võimalik tegema "usaldusväärsed musta kasti tehisintellektid” käivitades koolitus- ja järeldusprotsessi, kasutades mõnda plokiahelate ja MPC kombinatsiooni, siis võivad sellest kasu saada paljud rakendused, kus kasutajad on mures süsteemi kallutamise või nende petmise pärast. Paljud inimesed on avaldanud soovi demokraatlik juhtimine süsteemselt oluliste tehisintellektide kohta millest me sõltume; krüptograafiline ja plokiahelal põhinevad tehnikad võivad olla tee selle saavutamiseks.
- Alates AI ohutus Perspektiivis oleks see tehnika detsentraliseeritud AI loomiseks, millel on ka loomulik tapmislüliti ja mis võib piirata päringuid, mis püüavad kasutada tehisintellekti pahatahtlikuks käitumiseks.
Samuti väärib märkimist, et "krüptostiimuleid kasutades parema tehisintellekti tegemise stiimuleid" saab teha ilma krüptograafia täieliku krüptimise täieliku kasutamiseta: sellised lähenemisviisid nagu BitTensor sellesse kategooriasse.
Järeldused
Nüüd, mil nii plokiahelad kui ka AI-d muutuvad võimsamaks, on nende kahe piirkonna ristumiskohas üha rohkem kasutusjuhtumeid. Kuid mõned neist kasutusjuhtudest on palju mõistlikumad ja palju vastupidavamad kui teised. Üldiselt kasutatakse juhtumeid, kus aluseks olev mehhanism on jätkuvalt kujundatud ligikaudu nagu varem, kuid üksikisik mängijad tehisintellektideks, mis võimaldavad mehhanismil tõhusalt toimida palju mikromastaabis, on kõige paljutõotavamad ja neid on kõige lihtsam parandada.
Kõige keerulisem on õigeks saada rakendused, mis üritavad kasutada plokiahelaid ja krüptotehnikaid, et luua "üksik": üks detsentraliseeritud usaldusväärne tehisintellekt, millele mõni rakendus mingil eesmärgil tugineks. Need rakendused on paljutõotavad nii funktsionaalsuse kui ka tehisintellekti ohutuse parandamisel viisil, mis väldib tsentraliseerimisriske, mis on seotud selle probleemi tavapäraste lähenemisviisidega. Kuid on ka mitmeid viise, kuidas aluseks olevad eeldused võivad ebaõnnestuda; Seetõttu tasub olla ettevaatlik, eriti nende rakenduste juurutamisel kõrge väärtusega ja kõrge riskiga kontekstides.
Ootan huviga rohkem katseid tehisintellekti konstruktiivseks kasutamiseks kõigis neis valdkondades, et saaksime näha, millised neist on mastaabis tõeliselt elujõulised.
Autor: Vitalik Buterin
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- BlockOffsets. Keskkonnakompensatsiooni omandi ajakohastamine. Juurdepääs siia.
- Allikas: Platoni andmete intelligentsus.