A ChatGPT nem tud gondolkodni – a tudatosság valami egészen más, mint a mai mesterséges intelligencia

Újra kiadta Platón

Követő: 0

Világszerte megdöbbentett a gyors előrehaladás ChatGPT és más mesterséges intelligencia, amelyet az úgynevezett nagy nyelvi modellekkel (LLM) hoztak létre. Ezek a rendszerek olyan szöveget hozhatnak létre, amely úgy tűnik, hogy gondolkodást, megértést, sőt kreativitást mutat.

De vajon tényleg gondolkodni és érteni tudnak ezek a rendszerek? Ez nem olyan kérdés, amelyre a technológiai fejlődés révén meg lehet válaszolni, de a gondos filozófiai elemzés és érvelés azt mondja, hogy a válasz nem. És anélkül, hogy ezeket a filozófiai kérdéseket végiggondolnánk, soha nem fogjuk teljesen megérteni az AI-forradalom veszélyeit és előnyeit.

1950-ben a modern számítástechnika atyja, Alan Turing közzétett egy papírt amely meghatározza annak meghatározását, hogy a számítógép gondolkodik-e. Ezt ma „Turing-tesztnek” hívják. Turing elképzelt egy emberi lényt, aki beszélgetésbe keveredik két, a szem elől elrejtett beszélgetőpartnerrel: az egyik ember, a másik egy számítógép. A játék lényege, hogy kitaláljuk, melyik melyik.

Ha egy számítógép egy 70 perces beszélgetés során a bírák 5 százalékát úgy tudja becsapni, hogy egy személyről van szó, akkor a számítógép átmegy a teszten. A Turing-teszt sikeres teljesítése – ami most küszöbön áll – azt mutatná, hogy egy mesterséges intelligencia elérte a gondolkodást és a megértést?

Sakk kihívás

Turing elvetette ezt a kérdést, mint reménytelenül homályosat, és a „gondolat” pragmatikus meghatározásával helyettesítette, amely szerint gondolkodni csak annyit jelent, mint a teszt sikeres teljesítése.

Turing azonban tévedett, amikor azt mondta, hogy a „megértés” egyetlen egyértelmű fogalma a teszt sikeres teljesítésének pusztán viselkedésbeli fogalma. Bár ma már ez a gondolkodásmód uralja a kognitív tudományt, a „megértés” világos, mindennapi fogalma is kapcsolódik tudatosság. Ebben az értelemben megérteni annyit jelent, mint tudatosan megragadni a valósággal kapcsolatos bizonyos igazságokat.

A 1997, a A Deep Blue AI legyőzte Garri Kaszparov sakknagymestert. A megértés tisztán viselkedési felfogása alapján Deep Blue olyan tudással rendelkezett a sakkstratégiáról, amely minden embert felülmúl. De nem volt tudatos: nem voltak érzései vagy élményei.

Az emberek tudatosan értik a sakk szabályait és a stratégia logikáját. Ezzel szemben a Deep Blue egy érzéstelen mechanizmus volt, amelyet arra tanítottak, hogy jól teljesítsen a játékban. Hasonlóképpen, a ChatGPT egy érzéstelen mechanizmus, amelyet hatalmas mennyiségű, ember által előállított adatra képeztek ki, hogy olyan tartalmat hozzanak létre, amely úgy tűnik, mintha egy személy írta volna.

Tudatosan nem érti a kiköpött szavak jelentését. Ha a „gondolat” a tudatos reflexió aktusát jelenti, akkor a ChatGPT-nek nincsenek gondolatai semmiről.

Ideje befizetni

Hogyan lehetek olyan biztos abban, hogy a ChatGPT nincs tudatában? Az 1990-es években Christof Koch idegtudós fogadjon David Chalmers filozófusnak egy doboz finom bort hogy a tudósok 25 év alatt teljesen leszögezték volna a „tudat idegi korrelációit”.

Ezzel azt akarta mondani, hogy azonosították volna az agyi tevékenység azon formáit, amelyek szükségesek és elegendőek a tudatos tapasztaláshoz. Itt az ideje, hogy Koch fizessen, mivel nulla a konszenzus, hogy ez megtörtént.

Ez azért van, mert tudatosság nem figyelhető meg a fejedbe nézve. Az idegtudósoknak az agyi tevékenység és a tapasztalat közötti összefüggés megtalálására irányuló kísérleteik során alanyaik tanúságtételére vagy a tudat külső jelzőire kell hagyatkozniuk. Az adatok értelmezésének azonban többféle módja van.

Néhány tudós úgy gondolja, hogy szoros kapcsolat van a tudat és a reflektív megismerés között – az agy azon képessége között, hogy hozzáférjen az információkhoz és döntéseket hozzon. Ez arra készteti őket, hogy azt gondolják, hogy az agy prefrontális kérge – ahol a tudásszerzés magas szintű folyamatai zajlanak – lényegében minden tudatos tapasztalatban részt vesz. Mások ezt tagadják, ehelyett azzal érvelve bármelyik helyi agyi régióban megtörténik, ahol a releváns érzékszervi feldolgozás megtörténik.

A tudósok jól ismerik az agy alapvető kémiáját. Előrehaladást értünk el az agy különböző részei magas szintű funkcióinak megértésében is. De szinte tanácstalanok vagyunk a kettő között: hogyan valósul meg az agy magas szintű működése sejtszinten.

Az embereket nagyon izgatja a szkennelések azon lehetősége, hogy feltárják az agy működését. De az fMRI (funkcionális mágneses rezonancia képalkotás) nagyon alacsony felbontású: minden pixel egy agyi szkennelés 5.5 millió neuronnak felel meg, ami azt jelenti, hogy van határa annak, hogy ezek a szkennelések mennyi részletet képesek megmutatni.

Hiszem, hogy a tudat fejlődése akkor fog bekövetkezni, ha jobban megértjük az agy működését.

Szünet a fejlesztésben

Ahogy készülő könyvemben érvelek Miért? Az Univerzum célja, a tudat biztosan fejlődött, mert viselkedésbeli változást hozott. A tudattal rendelkező rendszereknek másként kell viselkedniük, és ennélfogva jobban túlélniük, mint a tudat nélküli rendszereknek.

Ha minden viselkedést a mögöttes kémia és fizika határozna meg, a természetes szelekciónak nem lenne motivációja az organizmusok tudatosítására; érzéstelen túlélési mechanizmusokként fejlődtünk volna.

Feltételezem tehát, hogy amint többet megtudunk az agy részletes működéséről, pontosan meghatározzuk, hogy az agy mely területei testesítik meg a tudatot. Ennek az az oka, hogy ezek a régiók olyan viselkedést mutatnak, amelyet nem lehet megmagyarázni a jelenleg ismert kémiával és fizikával. Már, néhány idegtudós potenciális új magyarázatokat keresnek a tudatra, hogy kiegészítsék a fizika alapegyenleteit.

Míg az LLM-ek feldolgozása ma már túl bonyolult ahhoz, hogy teljesen megértsük, tudjuk, hogy az ismert fizika alapján elvileg megjósolható. Ennek alapján magabiztosan állíthatjuk, hogy a ChatGPT nem tudatos.

A mesterséges intelligencia számos veszélyt rejt magában, és teljes mértékben támogatom több tízezer ember közelmúltbeli felhívását, beleértve Steve Wozniak és Elon Musk technológiai vezetőket is. hogy szünetet tartson fejlesztés a biztonsági aggályok kezelésére. A csalás lehetősége például óriási. Korai azonban az az érv, hogy a jelenlegi AI-rendszerek rövid távú leszármazottai szuperintelligensek lesznek, és ezáltal komoly veszélyt jelentenek az emberiségre.

Ez nem jelenti azt, hogy a jelenlegi AI-rendszerek ne lennének veszélyesek. De nem tudjuk helyesen felmérni a fenyegetést, hacsak nem kategorizáljuk pontosan. Az LLM-ek nem intelligensek. Ezek olyan rendszerek, amelyek az emberi intelligencia külső megjelenését keltik. Ijesztő, de nem olyan ijesztő.

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.

Kép: Gerd Altmann ból ből pixabay