ChatGPT Düşünemez—Bilinç, Günümüzün Yapay Zekasından Tamamen Farklı Bir Şeydir

ile hızlı ilerleme hızında dünya çapında şok yaşandı. ChatGPT ve büyük dil modelleri (LLM'ler) olarak bilinenlerle oluşturulan diğer yapay zeka. Bu sistemler düşünceyi, anlayışı ve hatta yaratıcılığı sergiliyor gibi görünen metinler üretebilir.

Ancak bu sistemler gerçekten düşünüp anlayabilir mi? Bu, teknolojik ilerleme yoluyla cevaplanabilecek bir soru değil, ancak dikkatli felsefi analiz ve argüman bize cevabın hayır olduğunu söylüyor. Ve bu felsefi meseleler üzerinde çalışmadan, AI devriminin tehlikelerini ve faydalarını asla tam olarak anlayamayacağız.

1950'de modern bilgi işlemin babası Alan Turing, bir makale yayınladı Bu, bir bilgisayarın düşünüp düşünmediğini belirlemenin bir yolunu ortaya koydu. Buna artık “Turing testi” deniyor. Turing, bir insanın görüş alanından gizlenmiş iki muhatapla sohbet ettiğini hayal etti: biri insan, diğeri bilgisayar. Oyun hangisinin hangisi olduğunu bulmaktır.

Bir bilgisayar, 70 dakikalık bir konuşmada yargıçların yüzde 5'ini bir insan olduğuna inandırabilirse, bilgisayar testi geçer. Turing testini geçmek - artık çok yakın görünen bir şey - bir yapay zekanın düşünce ve anlayışa ulaştığını gösterir mi?

Satranç Mücadelesi

Turing, bu soruyu umutsuzca belirsiz bularak bir kenara attı ve onun yerine düşünmenin sadece testi geçmek anlamına geldiği pragmatik bir "düşünce" tanımı koydu.

Ancak Turing, "anlamanın" tek açık kavramının, sınavını geçmek gibi tamamen davranışsal olduğunu söylediğinde yanılıyordu. Her ne kadar bu düşünce tarzı artık bilişsel bilime hakim olsa da, aynı zamanda açık, gündelik bir “anlama” kavramı da var. bilinç. Bu anlamda anlamak, gerçeklikle ilgili bazı hakikatleri bilinçli olarak kavramak demektir.

1997 olarak, Deep Blue AI, satranç ustası Garry Kasparov'u yendi. Tamamen davranışsal bir anlayış anlayışına göre, Deep Blue herhangi bir insanı aşan satranç stratejisi bilgisine sahipti. Ama bilinçli değildi: Herhangi bir duygu ya da deneyime sahip değildi.

İnsanlar bilinçli olarak satrancın kurallarını ve bir stratejinin mantığını anlarlar. Buna karşın Deep Blue, oyunda iyi performans göstermesi için eğitilmiş duygusuz bir mekanizmaydı. Benzer şekilde, ChatGPT, bir kişi tarafından yazılmış gibi görünen içerik oluşturmak için büyük miktarda insan yapımı veri üzerinde eğitilmiş duygusuz bir mekanizmadır.

Tükürdüğü kelimelerin anlamını bilinçli olarak anlamıyor. "Düşünce" bilinçli yansıtma eylemi anlamına geliyorsa, ChatGPT'nin hiçbir şey hakkında düşüncesi yoktur.

Ödeme Zamanı

ChatGPT'nin bilinçli olmadığından nasıl bu kadar emin olabilirim? 1990'larda sinirbilimci Christof Koch filozof David Chalmers'a bir kasa kaliteli şarap bahse girerim bilim adamlarının 25 yıl içinde "bilincin sinirsel bağıntılarını" tamamen tespit etmiş olacaklarını.

Bununla, bilinçli deneyim için gerekli ve yeterli beyin aktivitesi biçimlerini tanımlamış olacaklarını kastediyordu. Bunun olduğuna dair sıfır fikir birliği olduğundan, Koch'un ödeme zamanı geldi.

Bunun nedeni ise bilinç kafanın içine bakarak gözlemlenemez. Nörobilimciler, beyin aktivitesi ile deneyim arasında bir bağlantı bulma girişimlerinde, deneklerinin tanıklığına veya dışsal bilinç belirteçlerine güvenmelidir. Ancak verileri yorumlamanın birçok yolu vardır.

Bazı bilim adamları bilinç ve yansıtıcı biliş - beynin karar vermek için bilgiye erişme ve bilgiyi kullanma yeteneği - arasında yakın bir bağlantı olduğuna inanırlar. Bu onların, beynin prefrontal korteksinin -bilgi edinmenin üst düzey süreçlerinin gerçekleştiği yer- esasen tüm bilinçli deneyimlerle ilgili olduğunu düşünmelerine yol açar. Diğerleri bunu reddediyor, bunun yerine tartışmak ilgili duyusal işlemenin gerçekleştiği beyin bölgesinin neresinde gerçekleşir.

Bilim adamları beynin temel kimyası hakkında iyi bir anlayışa sahiptir. Beynin çeşitli parçalarının üst düzey işlevlerini anlamada da ilerleme kaydettik. Ancak aradaki kısım hakkında neredeyse hiçbir fikrimiz yok: beynin üst düzey işleyişinin hücresel düzeyde nasıl gerçekleştiği.

İnsanlar, taramaların beynin işleyişini ortaya çıkarma potansiyeli konusunda çok heyecanlanıyor. Ancak fMRI (fonksiyonel manyetik rezonans görüntüleme) çok düşük bir çözünürlüğe sahiptir: her piksel bir beyin taramasında 5.5 milyon nörona karşılık gelir, bu da bu taramaların gösterebileceği ayrıntıların bir sınırı olduğu anlamına gelir.

Beynin nasıl çalıştığını daha iyi anladığımızda bilinç konusundaki ilerlemenin geleceğine inanıyorum.

Geliştirmede Duraklama

Gelecek kitabımda tartıştığım gibi Neden? Evrenin Amacı, davranışsal bir fark yarattığı için bilinç evrimleşmiş olmalı. Bilinçli sistemler, bilinçsiz sistemlerden farklı davranmalı ve dolayısıyla daha iyi hayatta kalmalıdır.

Eğer tüm davranışlar altta yatan kimya ve fizik tarafından belirlenseydi, doğal seçilimin organizmaları bilinçlendirmek için hiçbir motivasyonu olmazdı; duygusuz hayatta kalma mekanizmaları olarak evrimleşirdik.

O halde bahse girerim, beynin ayrıntılı işleyişi hakkında daha çok şey öğrendikçe, beynin hangi alanlarının bilinci somutlaştırdığını tam olarak belirleyeceğiz. Bunun nedeni, o bölgelerin şu anda bilinen kimya ve fizik ile açıklanamayacak davranışlar sergilemesidir. Çoktan, bazı sinirbilimciler fiziğin temel denklemlerini tamamlamak için bilinç için potansiyel yeni açıklamalar arıyorlar.

LLM'lerin işlenmesi artık tam olarak anlamamız için çok karmaşık olsa da, bunun prensipte bilinen fizikten tahmin edilebileceğini biliyoruz. Bu temelde, ChatGPT'nin bilinçli olmadığını güvenle söyleyebiliriz.

Yapay zekanın ortaya çıkardığı pek çok tehlike var ve teknoloji liderleri Steve Wozniak ve Elon Musk da dahil olmak üzere on binlerce kişinin son çağrısını tamamen destekliyorum. duraklatmak güvenlik endişelerini gidermek için geliştirme. Örneğin dolandırıcılık potansiyeli muazzamdır. Bununla birlikte, mevcut AI sistemlerinin yakın vadede torunlarının süper zeki olacağı ve dolayısıyla insanlık için büyük bir tehdit olacağı argümanı erken.

Bu, mevcut AI sistemlerinin tehlikeli olmadığı anlamına gelmez. Ancak bir tehdidi doğru bir şekilde kategorize etmedikçe doğru bir şekilde değerlendiremeyiz. LLM'ler akıllı değildir. İnsan zekasının dış görünüşünü vermek için eğitilmiş sistemlerdir. Korkunç ama o kadar da değil.

Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.

Resim Kredi: Gerd Altmann itibaren Pixabay

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoAiStream. Web3 Veri Zekası. Bilgi Genişletildi. Buradan Erişin.
• Adryenn Ashley ile Geleceği Basmak. Buradan Erişin.
• PREIPO® ile PRE-IPO Şirketlerinde Hisse Al ve Sat. Buradan Erişin.
• Kaynak: https://singularityhub.com/2023/05/23/chatgpt-cant-think-consciousness-is-something-entirely-different-to-todays-ai/