ChatGPT ei suuda mõelda – teadvus on tänapäeva tehisintellektist täiesti erinev

Taasavaldanud Platon

järgijaid: 0

Kogu maailmas on toimunud šokk kiire arenguga ChatGPT ja muu tehisintellekt, mis on loodud nn suurte keelemudelite (LLM) abil. Need süsteemid võivad toota teksti, mis näib näitavat mõtlemist, mõistmist ja isegi loovust.

Kuid kas need süsteemid saavad tõesti mõelda ja mõista? See ei ole küsimus, millele saaks vastata tehnoloogilise arengu kaudu, kuid hoolikas filosoofiline analüüs ja argumentatsioon ütlevad meile, et vastus on eitav. Ja ilma neid filosoofilisi küsimusi käsitlemata ei saa me kunagi täielikult aru tehisintellekti revolutsiooni ohtudest ja eelistest.

Aastal 1950 oli kaasaegse andmetöötluse isa Alan Turing. avaldas raamatu mis esitas viisi, kuidas teha kindlaks, kas arvuti mõtleb. Seda nimetatakse nüüd "Turingi testiks". Turing kujutas ette inimest, kes suhtleb kahe silma eest varjatud vestluskaaslasega: üks teine inimene, teine arvuti. Mängu eesmärk on välja selgitada, kumb on kumb.

Kui arvuti suudab 70-minutilise vestluse jooksul petta 5 protsenti kohtunikest, arvama, et see on inimene, läbib arvuti testi. Kas Turingi testi läbimine – mis praegu näib olevat peatne – näitaks, et tehisintellekt on saavutanud mõtlemise ja mõistmise?

Male väljakutse

Turing lükkas selle küsimuse välja kui lootusetult ebamäärase ja asendas selle pragmaatilise "mõtte" määratlusega, mille kohaselt mõtlemine tähendab lihtsalt testi läbimist.

Turing aga eksis, kui ta ütles, et ainus selge mõiste "mõistmisest" on puhtalt käitumuslik, kui testi läbimine toimub. Kuigi see mõtteviis domineerib praegu kognitiivteaduses, on olemas ka selge igapäevane mõiste "mõistmine", mis on seotud teadvus. Selles mõttes mõistmine tähendab teadlikult teatud tõe mõistmist tegelikkuse kohta.

Aastal 1997, Deep Blue AI võitis male suurmeistrit Garri Kasparovit. Puhtalt käitumusliku mõistmise kontseptsiooni põhjal oli Deep Blue teadmised malestrateegiast, mis ületavad kõiki inimesi. Kuid see ei olnud teadlik: tal ei olnud mingeid tundeid ega kogemusi.

Inimesed mõistavad teadlikult malereegleid ja strateegia põhjendust. Deep Blue oli seevastu tundetu mehhanism, mida oli treenitud mängus hästi esinema. Samuti on ChatGPT tundetu mehhanism, mida on õpetatud kasutama tohutul hulgal inimese loodud andmeid, et luua sisu, mis näib olevat inimese kirjutatud.

Ta ei saa teadlikult aru sõnade tähendusest, mida ta välja sülitab. Kui “mõte” tähendab teadlikku refleksiooni, siis pole ChatGPT-l mitte millegi kohta mõtteid.

Aeg tasuda

Kuidas saan olla nii kindel, et ChatGPT pole teadlik? 1990. aastatel neuroteadlane Christof Koch kihla vedada filosoof David Chalmers peene veini kasti et teadlased oleksid "teadvuse neuraalsed korrelatsioonid" 25 aastaga täielikult kindlaks määranud.

Sellega pidas ta silmas, et nad oleksid tuvastanud teadliku kogemuse jaoks vajalikud ja piisavad ajutegevuse vormid. On aeg, et Koch makstaks, kuna üksmeel selles, et see juhtus, puudub.

See on sellepärast, et teadvus pea sisse vaadates ei saa seda jälgida. Püüdes leida seost ajutegevuse ja kogemuste vahel, peavad neuroteadlased toetuma oma katsealuste tunnistustele või teadvuse välistele markeritele. Kuid andmete tõlgendamiseks on mitu võimalust.

Mõned teadlased usun, et teadvuse ja peegeldava tunnetuse vahel on tihe seos – aju võime pääseda ligi teabele ja seda otsuste tegemiseks kasutada. See paneb nad arvama, et aju prefrontaalne ajukoor, kus toimuvad kõrgetasemelised teadmiste omandamise protsessid, on sisuliselt seotud kogu teadliku kogemusega. Teised eitavad seda, vaidleb hoopis selle üle see juhtub mis tahes kohalikus ajupiirkonnas, kus asjakohane sensoorne töötlemine toimub.

Teadlased mõistavad hästi aju põhikeemiat. Samuti oleme teinud edusamme aju erinevate osade kõrgetasemeliste funktsioonide mõistmisel. Kuid me oleme peaaegu teadmatud selle vahepealse osa kohta: kuidas aju kõrgetasemeline toimimine rakutasandil realiseerub.

Inimesed tunnevad suurt põnevust skaneerimise potentsiaalist paljastada aju tööd. Kuid fMRI-l (funktsionaalne magnetresonantstomograafia) on väga madal eraldusvõime: iga piksel aju skaneerimisel vastab 5.5 miljonile neuronile, mis tähendab, et nende skaneeringute detailidele on piirang.

Usun, et teadvuse arendamine toimub siis, kui mõistame paremini, kuidas aju töötab.

Paus arenduses

Nagu ma oma peagi ilmuvas raamatus väidan Miks? Universumi eesmärk, teadvus peab olema arenenud, sest see muutis käitumist. Teadvusega süsteemid peavad käituma teisiti ja seega paremini ellu jääma kui ilma teadvuseta süsteemid.

Kui kogu käitumise määraks aluseks olev keemia ja füüsika, poleks looduslikul valikul motivatsiooni organisme teadvustada; me oleksime arenenud tundmatute ellujäämismehhanismidena.

Minu panus on siis see, et aju üksikasjaliku töö kohta rohkem teada saades tuvastame täpselt, millised ajupiirkonnad kehastavad teadvust. Seda seetõttu, et nendes piirkondades on käitumine, mida praegu teadaoleva keemia ja füüsikaga ei saa seletada. juba mõned neuroteadlased otsivad võimalikke uusi seletusi teadvusele, et täiendada füüsika põhivõrrandeid.

Kuigi LLM-ide töötlemine on praegu liiga keeruline, et seda täielikult mõista, teame, et seda saab põhimõtteliselt ennustada tuntud füüsika põhjal. Selle põhjal võime kindlalt väita, et ChatGPT ei ole teadlik.

AI kujutab endast palju ohte ja ma toetan täielikult kümnete tuhandete inimeste, sealhulgas tehnoloogiajuhtide Steve Wozniaki ja Elon Muski hiljutist üleskutset. pausi tegema ohutusprobleemide lahendamiseks. Näiteks pettuste potentsiaal on tohutu. Siiski on ennatlik väide, et praeguste tehisintellektisüsteemide lähiaja järeltulijad on üliintelligentsed ja seega suur oht inimkonnale.

See ei tähenda, et praegused AI-süsteemid poleks ohtlikud. Kuid me ei saa ohtu õigesti hinnata, kui me seda täpselt kategoriseerime. LLM-id ei ole intelligentsed. Need on süsteemid, mis on treenitud andma inimliku intelligentsuse välimust. Õudne, aga mitte nii hirmus.

See artikkel avaldatakse uuesti Vestlus Creative Commonsi litsentsi all. Loe algse artikli.

Image Credit: Gerd altmann Alates Pixabay