ChatGPT ne more razmišljati - zavest je nekaj povsem drugega kot današnja umetna inteligenca

Ponovno objavil Platon

Spremljevalci: 0

Po vsem svetu je bil šok zaradi hitrega napredka ChatGPT in druga umetna inteligenca, ustvarjena s tako imenovanimi velikimi jezikovnimi modeli (LLM). Ti sistemi lahko proizvedejo besedilo, ki kaže na misel, razumevanje in celo ustvarjalnost.

Toda ali lahko ti sistemi res razmišljajo in razumejo? Na to vprašanje ni mogoče odgovoriti s tehnološkim napredkom, vendar nam skrbna filozofska analiza in argumenti povedo, da je odgovor ne. In brez obdelave teh filozofskih vprašanj ne bomo nikoli v celoti razumeli nevarnosti in koristi revolucije umetne inteligence.

Leta 1950 je oče sodobnega računalništva, Alan Turing, objavil prispevek ki je določil način ugotavljanja, ali računalnik misli. To se zdaj imenuje "Turingov test". Turing si je zamislil človeka, ki se pogovarja z dvema očema skritima sogovornikoma: eden je človek, drugi pa računalnik. Igra je ugotoviti, kateri je kateri.

Če lahko računalnik v 70-minutnem pogovoru preslepi 5 odstotkov sodnikov, da mislijo, da gre za osebo, računalnik opravi test. Ali bi uspešnost Turingovega testa – nekaj, kar se zdaj zdi neizbežno – pokazala, da je umetna inteligenca dosegla razmišljanje in razumevanje?

Šahovski izziv

Turing je to vprašanje zavrnil kot brezupno nejasno in ga nadomestil s pragmatično definicijo »misli«, pri čemer misliti le pomeni opraviti test.

Vendar se je Turing motil, ko je rekel, da je edina jasna predstava o "razumevanju" povsem vedenjska pojem uspešnosti njegovega testa. Čeprav ta način razmišljanja zdaj prevladuje v kognitivni znanosti, obstaja tudi jasen, vsakdanji pojem »razumevanja«, ki je povezan z zavest. Razumeti v tem smislu pomeni zavestno dojeti nekaj resnice o resničnosti.

V 1997, Deep Blue AI je premagal šahovskega velemojstra Garija Kasparova. Na povsem vedenjskem konceptu razumevanja je Deep Blue imel znanje o šahovski strategiji, ki presega katero koli človeško bitje. Vendar ni bilo zavestno: ni imelo nobenih občutkov ali izkušenj.

Ljudje zavestno razumejo šahovska pravila in smisel strategije. V nasprotju s tem je bil Deep Blue brezčuten mehanizem, ki je bil usposobljen za dobro delovanje v igri. Podobno je ChatGPT brezčuten mehanizem, ki je bil usposobljen na ogromnih količinah podatkov, ki jih je ustvaril človek, za ustvarjanje vsebine, ki se zdi, kot da jo je napisala oseba.

Zavestno ne razume pomena besed, ki jih izpljune. Če "misel" pomeni dejanje zavestnega razmišljanja, potem ChatGPT nima misli o ničemer.

Čas za plačilo

Kako sem lahko tako prepričan, da ChatGPT ni pri zavesti? V devetdesetih je nevroznanstvenik Christof Koch stavite filozofa Davida Chalmersa na zaboj dobrega vina da bi znanstveniki v 25 letih popolnoma določili "nevronske korelate zavesti".

S tem je mislil, da bi identificirali oblike možganske dejavnosti, potrebne in zadostne za zavestno izkušnjo. Skrajni čas je bil, da Koch plača, saj ni soglasja, da se je to zgodilo.

To je zato, ker zavest ni mogoče opaziti s pogledom v svojo glavo. V svojih poskusih iskanja povezave med možgansko aktivnostjo in izkušnjami se morajo nevroznanstveniki zanašati na pričevanja svojih subjektov ali na zunanje označevalce zavesti. Vendar obstaja več načinov za interpretacijo podatkov.

Nekateri znanstveniki verjamejo, da obstaja tesna povezava med zavestjo in refleksivno kognicijo – zmožnostjo možganov za dostop do informacij in njihovo uporabo za sprejemanje odločitev. To jih vodi do misli, da je možganska prefrontalna skorja – kjer potekajo procesi pridobivanja znanja na visoki ravni – v bistvu vključena v vse zavestne izkušnje. Drugi to zanikajo, trditi namesto tega zgodi se v kateri koli lokalni regiji možganov, kjer pride do ustrezne senzorične obdelave.

Znanstveniki dobro razumejo osnovno kemijo možganov. Napredovali smo tudi pri razumevanju funkcij na visoki ravni različnih delov možganov. Vendar skoraj nimamo pojma o vmesnem delu: kako se delovanje možganov na visoki ravni realizira na celični ravni.

Ljudje so zelo navdušeni nad potencialom skeniranja za razkrivanje delovanja možganov. Toda fMRI (funkcionalno slikanje z magnetno resonanco) ima zelo nizko ločljivost: vsak piksel na skeniranju možganov ustreza 5.5 milijona nevronov, kar pomeni, da obstaja omejitev, koliko podrobnosti lahko ti pregledi pokažejo.

Verjamem, da bo napredek na področju zavesti prišel, ko bomo bolje razumeli, kako delujejo možgani.

Premor v razvoju

Kot trdim v svoji prihajajoči knjigi Zakaj? Namen vesolja, zavest se je morala razviti, ker je naredila vedenjsko razliko. Sistemi z zavestjo se morajo obnašati drugače in zato bolje preživeti kot sistemi brez zavesti.

Če bi vse vedenje določali temeljna kemija in fizika, naravna selekcija ne bi imela motivacije za ozaveščanje organizmov; razvili bi se kot brezčutni mehanizmi preživetja.

Stavim torej, da ko bomo izvedeli več o podrobnem delovanju možganov, bomo natančno ugotovili, katera področja možganov utelešajo zavest. To je zato, ker bodo te regije pokazale vedenje, ki ga trenutno znana kemija in fizika ne moreta razložiti. Že, nekateri nevroznanstveniki iščejo morebitne nove razlage zavesti, ki bi dopolnile osnovne enačbe fizike.

Medtem ko je obdelava LLM zdaj preveč zapletena, da bi jo lahko v celoti razumeli, vemo, da jo je načeloma mogoče predvideti iz znane fizike. Na podlagi tega lahko z gotovostjo trdimo, da ChatGPT ni zavesten.

Umetna inteligenca predstavlja veliko nevarnosti in v celoti podpiram nedavni poziv več deset tisoč ljudi, vključno s tehnološkimi voditelji Stevom Wozniakom in Elonom Muskom, ustaviti razvoj za reševanje varnostnih vprašanj. Možnost goljufije je na primer ogromna. Vendar pa je argument, da bodo kratkoročni potomci sedanjih sistemov umetne inteligence super inteligentni in s tem velika grožnja človeštvu, preuranjen.

To ne pomeni, da trenutni sistemi AI niso nevarni. Toda grožnje ne moremo pravilno oceniti, če je natančno ne kategoriziramo. LLM niso inteligentni. So sistemi, usposobljeni za dajanje zunanjega videza človeške inteligence. Strašljivo, a ne tako strašno.

Ta članek je ponovno objavljen Pogovor pod licenco Creative Commons. Preberi Originalni članek.

Kreditno slike: Gerd Altmann iz pixabay