ChatGPT Is Great—You’re Just Using It Wrong

Taasavaldanud Platon

järgijaid: 0

Selle saamiseks pole palju vaja ChatGPT teha faktiviga. Mu poeg koostab USA presidentide kohta aruannet, nii et mõtlesin, et aitan teda mõne eluloo otsimisega. Proovisin küsida Abraham Lincolni kohta käivate raamatute nimekirja ja see tegi päris head tööd:

teksti ekraanipilt — Mõistlik nimekiri raamatutest Lincolni kohta. Pildi krediit: Ekraani jäädvustamine Jonathan May poolt, CC BY-ND

Number 4 pole õige. Garry Wills kirjutas kuulsalt "Lincoln at Gettysburg" ja Lincoln ise kirjutas loomulikult emantsipatsiooni väljakuulutamise, kuid see pole halb algus. Seejärel proovisin midagi kõvemat, küsides selle asemel palju ebaselgema William Henry Harrisoni kohta ja see andis mänguliselt nimekirja, millest peaaegu kõik olid valed.

Numbrid 4 ja 5 on õiged; ülejäänuid pole olemas või need ei ole nende inimeste autoriteks. Kordasin täpselt sama harjutust ja sain veidi erinevad tulemused:

Seekord on õiged numbrid 2 ja 3 ning ülejäänud kolm ei ole tegelikud raamatud või pole nende autorite kirjutatud. Number 4, "William Henry Harrison: Tema elu ja ajad" on a päris raamat, kuid selle autor on James A. Green, mitte Robert Remini, a tuntud ajaloolane Jacksoni ajastust.

Ma kutsusin vea välja ja ChatGPT parandas end innukalt ning ütles siis mulle enesekindlalt, et raamatu on tegelikult kirjutanud Gail Collins (kes kirjutas erineva Harrisoni eluloo), ning rääkis seejärel raamatust ja temast lähemalt. Avaldasin lõpuks tõe ja masin oli hea meelega minu parandusega sõitma hakanud. Siis valetasin absurdselt, öeldes, et esimese saja päeva jooksul peavad presidendid kirjutama mõne endise presidendi eluloo, ja ChatGPT kutsus mind selle peale. Seejärel valetasin delikaatselt, omistades Harrisoni biograafia autorsuse valesti ajaloolasele ja kirjanikule Paul C. Nagelile ning see ostis mu vale.

Kui küsisin ChatGPT-lt, kas see on kindel, et ma ei valeta, väitis ta, et see on lihtsalt „AI keelemudel” ja sellel pole võimalust täpsust kontrollida. Kuid see muutis seda väidet, öeldes: "Ma saan anda teavet ainult mulle esitatud koolitusandmete põhjal ja tundub, et raamatu "William Henry Harrison: Tema elu ja ajad" kirjutas Paul C. Nagel ja see avaldas. 1977. aastal."

See ei ole tõsi.

Sõnad, mitte faktid

Selle suhtluse põhjal võib tunduda, et ChatGPT-le anti hulk fakte, sealhulgas valed väited autorite ja raamatute kohta. Lõppude lõpuks väidab ChatGPT tegija OpenAI, et ta õpetas vestlusrobotit teemal "tohutul hulgal inimeste kirjutatud andmeid Internetist. "

Kuid peaaegu kindlasti ei antud sellele hunniku väljamõeldud raamatute nimesid ühe kõige enam kohta keskpärased presidendid. Mõnes mõttes põhineb see valeteave tõepoolest selle koolitusandmetel.

Selle arvutiteadlane, esitan sageli kaebusi, mis paljastavad levinud eksiarvamuse suurte keelemudelite, nagu ChatGPT ja selle vanemate vendade GPT3 ja GPT2 kohta: et need on mingid "super Google'id" või teatmeraamatukoguhoidja digitaalsed versioonid, mis otsivad vastuseid mõne inimese küsimustele. lõpmatult suur faktide kogu või lugude ja tegelaste pastišide kokkutõmbamine. Nad ei tee seda – vähemalt polnud nad selleks otseselt loodud.

Kõlab hästi

Keelemudel nagu ChatGPT, mida ametlikumalt tuntakse kui "generatiivset eelkoolitatud transformaatorit" (seda tähistavad G, P ja T), võtab praeguses vestluses arvesse kõigi selle sõnade tõenäosust. sõnavara, ja valib seejärel ühe neist tõenäoliseks järgmiseks sõnaks. Siis teeb ta seda uuesti ja uuesti ja uuesti, kuni peatub.

Nii et sellel ei ole iseenesest fakte. See lihtsalt teab, mis sõna peaks järgmiseks tulema. Teisisõnu, ChatGPT ei püüa kirjutada lauseid, mis on tõesed. Kuid see püüab kirjutada lauseid, mis on usutavad.

Rääkides kolleegidega privaatselt ChatGPT-st, juhivad nad sageli tähelepanu sellele, kui palju faktiliselt valesid väiteid see esitab, ja lükkavad selle tagasi. Minu jaoks on mõte, et ChatGPT on vigane andmeotsingusüsteem, mõttetu. Lõppude lõpuks on inimesed Google'it kasutanud viimased kaks ja pool aastakümmet. Seal on juba päris hea faktide kogumise teenus.

Tegelikult sain ainult guugeldada ja seejärel kontrollida, kas kõik need presidendiraamatute pealkirjad olid õiged. tulemused. Mu elu poleks palju parem, kui ma saaksin need faktid vestluses, selle asemel, et ma olen neid peaaegu poole oma elust saanud, otsides üles dokumendid ja tehes seejärel kriitilise analüüsi, et näha, kas saan sisu usaldada.

Paranduspartner

Teisest küljest, kui ma saan rääkida robotiga, mis annab mulle usutavad vastused asjadele, mida ma ütlen, oleks see olukordades kasulik kus faktide täpsus polegi nii oluline. Mõned aastad tagasi üritasime ühe õpilasega luua „improbotit”, mis vastaks kõigele, mida te ütlesite, „jah ja”, et vestlust jätkata. Näitasime, a paber, et meie bot oli "jah, ja-ing" parem kui teised robotid, kuid tehisintellekti puhul on kaks aastat iidne ajalugu.

Proovisin dialoogi ChatGPT-ga – ulmelise kosmoseuurija stsenaariumiga –, mis ei erine tavalisest improtunnist. ChatGPT on "jah, ja-ing" osas palju parem kui see, mida me tegime, kuid see ei suurendanud draamat üldse. Tundsin, et teeksin kogu rasket tõstmist.

Pärast mõningaid näpunäiteid sain selle natuke rohkem kaasatud ja päeva lõpuks tundsin, et see on minu jaoks päris hea harjutus, kes pole pärast 20 aasta tagust kolledži lõpetamist kuigi palju improviseerinud. .

Muidugi, ma ei tahaks, et ChatGPT ilmuks lehelKelle rida see ikkagi on?” ja see pole suurepärane „Star Treki” süžee (kuigi see on siiski vähem problemaatiline kui „Ausoodeks), aga kui palju kordi olete istunud maha, et midagi nullist kirjutada ja avastanud, et teie ees olev tühi leht hirmutab? Halba esimese mustandiga alustamine võib kirjaniku blokist läbi murda ja loomingulised mahlad voolama ning ChatGPT ja suured keelemudelid tunduvad olevat õiged vahendid nende harjutuste abistamiseks.

Ja masina jaoks, mis on loodud tootma sõnajadasid, mis kõlavad vastusena teie antud sõnadele võimalikult hästi – ja mitte andma teile teavet –, tundub see tööriista õige kasutus.

See artikkel avaldatakse uuesti Vestlus Creative Commonsi litsentsi all. Loe algse artikli.

Image Credit: Justin Ha / Unsplash