ChatGPT Is Great—You’re Just Using It Wrong

Plato tarafından yeniden yayınlandı

İzleyiciler: 0

almak çok fazla zaman almıyor ChatGPT gerçek bir hata yapmak için. Oğlum ABD başkanları hakkında bir haber hazırlıyor, ben de birkaç biyografiye bakarak ona yardımcı olayım dedim. Abraham Lincoln hakkında kitapların bir listesini istemeye çalıştım ve oldukça iyi bir iş çıkardı:

metnin ekran görüntüsü — Lincoln hakkında makul bir kitap listesi. Resim Kredisi: Jonathan May tarafından ekran görüntüsü, CC BY-ND

4 numara doğru değil Garry Wills ünlü bir şekilde “Lincoln Gettysburg'da” yazdı ve Lincoln'ün kendisi Kurtuluş Beyannamesi'ni yazdı elbette, ama bu kötü bir başlangıç değil. Sonra daha zor bir şey denedim, bunun yerine çok daha muğlak olan William Henry Harrison'ı sordum ve bu, neredeyse tamamı yanlış olan bir liste sağladı.

4 ve 5 sayıları doğrudur; geri kalanı mevcut değil veya bu insanlar tarafından yazılmamış. Aynı egzersizi tekrarladım ve biraz farklı sonuçlar aldım:

Bu kez 2 ve 3 sayıları doğrudur ve diğer üçü gerçek kitap değildir veya o yazarlar tarafından yazılmamıştır. 4 numara, “William Henry Harrison: His Life and Times” bir gerçek kitap, ama James A. Green tarafından, Robert Remini tarafından değil, bir ünlü tarihçi Jackson çağına ait.

Hatayı dile getirdim ve ChatGPT hevesle kendini düzeltti ve sonra kendinden emin bir şekilde bana kitabın aslında (farklı bir Harrison biyografisi yazan) Gail Collins tarafından yazıldığını söyledi ve ardından kitap ve onun hakkında daha fazla şey söylemeye devam etti. Sonunda gerçeği açıkladım ve makine düzeltmemle çalışmaktan mutlu oldu. Sonra saçma sapan yalan söyledim, başkanların ilk yüz günleri boyunca eski bir başkanın biyografisini yazmaları gerektiğini söyledim ve ChatGPT beni bu konuda uyardı. Daha sonra, Harrison biyografisinin yazarlığını yanlış bir şekilde tarihçi ve yazar Paul C. Nagel'e atfederek kurnazca yalan söyledim ve bu yalanımı satın aldı.

ChatGPT'ye yalan söylemediğimden emin olup olmadığımı sorduğumda, bunun yalnızca bir "AI dil modeli" olduğunu ve doğruluğu doğrulama yeteneğine sahip olmadığını iddia etti. Ancak, “Yalnızca bana sağlanan eğitim verilerine dayanarak bilgi sağlayabilirim ve görünen o ki 'William Henry Harrison: His Life and Times' kitabı Paul C. Nagel tarafından yazılmış ve yayınlanmıştır” diyerek bu iddiayı değiştirmiştir. 1977'de.”

Bu doğru değil.

Sözler, Gerçekler Değil

Bu etkileşimden, ChatGPT'ye yazarlar ve kitaplar hakkında yanlış iddialar da dahil olmak üzere gerçeklerden oluşan bir kitaplık verildiği anlaşılıyor. Ne de olsa, ChatGPT'nin üreticisi OpenAI, chatbot'u "" konusunda eğittiğini iddia ediyor.İnternetten insanlar tarafından yazılan büyük miktarda veri".

Bununla birlikte, neredeyse kesinlikle en çok bilinenlerden biri hakkında bir dizi uydurma kitabın adı verilmemiştir. vasat başkanlar. Bir bakıma, bu yanlış bilgi gerçekten de eğitim verilerine dayanmaktadır.

Olarak bilgisayar uzmanı, Sıklıkla ChatGPT ve onun eski kardeşleri GPT3 ve GPT2 gibi büyük dil modelleri hakkında yaygın bir yanılgıyı ortaya çıkaran şikayetler alıyorum: Bunların bir tür "süper Google'lar" veya bir referans kütüphanecinin dijital sürümleri oldukları, bazılarının sorularına yanıt aradıkları. sonsuz büyüklükte gerçekler kütüphanesi ya da hikaye ve karakter pastişlerini bir araya getirmek. Bunların hiçbirini yapmıyorlar - en azından, açıkça tasarlanmamışlardı.

Kulağa iyi geliyor

Daha resmi olarak "üretken önceden eğitilmiş dönüştürücü" (G, P ve T'nin anlamı budur) olarak bilinen ChatGPT gibi bir dil modeli, mevcut konuşmayı alır ve içindeki tüm kelimeler için bir olasılık oluşturur. bu sohbete verilen kelime dağarcığı ve ardından olası bir sonraki kelime olarak bunlardan birini seçer. Sonra durana kadar bunu tekrar, tekrar ve tekrar yapar.

Yani kendi başına gerçekleri yok. Sadece hangi kelimenin gelmesi gerektiğini biliyor. Başka bir deyişle, ChatGPT doğru olan cümleler yazmaya çalışmaz. Ancak makul olan cümleler yazmaya çalışır.

İş arkadaşlarıyla ChatGPT hakkında özel olarak konuşurken, genellikle onun gerçeklere dayalı olarak doğru olmayan kaç tane ifade ürettiğine dikkat çekerler ve onu reddederler. Bana göre, ChatGPT'nin kusurlu bir veri alma sistemi olduğu fikri konu dışı. Ne de olsa insanlar Google'ı son yirmi beş yıldır kullanıyor. Zaten oldukça iyi bir bilgi toplama servisi var.

Aslında, tüm bu başkanlık kitabı başlıklarının doğru olup olmadığını doğrulamamın tek yolu Google'da araştırma yapmak ve ardından doğrulamaktı. Sonuç. Bu gerçekleri, hayatımın neredeyse yarısında belgeleri toplayarak ve ardından içeriğe güvenip güvenemeyeceğimi görmek için eleştirel bir analiz yaparak elde ettiğim yol yerine, bu gerçekleri sohbet ederek alsaydım hayatım o kadar iyi olmazdı.

Geliştirme Ortağı

Öte yandan, söylediğim şeylere makul yanıtlar verecek bir robotla konuşabilirsem, bazı durumlarda faydalı olur. olgusal doğruluğun o kadar da önemli olmadığı durumlarda. Birkaç yıl önce bir öğrenci ve ben, sohbeti devam ettirmek için söylediklerinize "evet" ile yanıt verecek bir "doğaçlama botu" yaratmaya çalıştık. gösterdik, bir kâğıt, bizim ağız "evet, ve-ing" konusunda o sırada diğer botlardan daha iyiydi, ancak AI'da iki yıl eski bir tarih.

Bir bilim kurgu uzay gezgini senaryosu olan ChatGPT ile tipik bir doğaçlama sınıfında bulacağınızdan farklı olmayan bir diyalog denedim. ChatGPT "evet, ve-ing" konusunda bizim yaptığımızdan çok daha iyi, ancak dramayı gerçekten artırmadı. Sanki bütün ağır işleri ben yapıyormuşum gibi hissettim.

Birkaç ince ayardan sonra biraz daha dahil olmasını sağladım ve günün sonunda, 20 yıl önce üniversiteden mezun olduğumdan beri pek fazla gelişme yapmayan benim için oldukça iyi bir egzersiz olduğunu hissettim. .

Elbette, ChatGPT'nin “ üzerinde görünmesini istemem.Bu Neyse Kimin Hattı mı?” ve bu harika bir “Uzay Yolu” konusu değil (yine de “den daha az problemli olmasına rağmen)Code of Honor”), ama kaç kez sıfırdan bir şeyler yazmak için oturdunuz ve önünüzdeki boş sayfadan kendinizi dehşete düşürdünüz? Kötü bir ilk taslakla başlamak, yazma blokajını aşabilir ve yaratıcı özlerin akmasını sağlayabilir ve ChatGPT ve büyük dil modelleri, bu alıştırmalara yardımcı olacak doğru araçlar gibi görünüyor.

Ve size bilgi sağlamak için değil, verdiğiniz kelimelere mümkün olduğunca iyi ses çıkaran kelime dizileri üretmek için tasarlanmış bir makine için, aracın doğru kullanımı bu gibi görünüyor.

Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.

Resim Kredi: Justin Ha / Unsplash