Το ChatGPT δεν μπορεί να σκεφτεί—Η συνείδηση είναι κάτι εντελώς διαφορετικό από το σημερινό AI

Αναδημοσίευση από τον Πλάτωνα

Ακολουθούν: 0

Υπήρξε σοκ σε όλο τον κόσμο με τον ταχύ ρυθμό προόδου με ChatGPT και άλλη τεχνητή νοημοσύνη που δημιουργήθηκε με τα γνωστά μοντέλα μεγάλων γλωσσών (LLM). Αυτά τα συστήματα μπορούν να παράγουν κείμενο που φαίνεται να επιδεικνύει σκέψη, κατανόηση και ακόμη και δημιουργικότητα.

Μπορούν όμως πραγματικά αυτά τα συστήματα να σκεφτούν και να καταλάβουν; Αυτή δεν είναι μια ερώτηση που μπορεί να απαντηθεί μέσω της τεχνολογικής προόδου, αλλά η προσεκτική φιλοσοφική ανάλυση και τα επιχειρήματα μας λένε ότι η απάντηση είναι όχι. Και χωρίς να επεξεργαστούμε αυτά τα φιλοσοφικά ζητήματα, δεν θα κατανοήσουμε ποτέ πλήρως τους κινδύνους και τα οφέλη της επανάστασης της τεχνητής νοημοσύνης.

Το 1950, ο πατέρας της σύγχρονης πληροφορικής, ο Άλαν Τούρινγκ, δημοσίευσε ένα έγγραφο που έθεσε έναν τρόπο προσδιορισμού του εάν ένας υπολογιστής σκέφτεται. Αυτό τώρα ονομάζεται «η δοκιμή Turing». Ο Τούρινγκ φαντάστηκε έναν άνθρωπο να συνομιλεί με δύο συνομιλητές κρυμμένους από τα μάτια: ο ένας τον άλλον άνθρωπο, τον άλλον έναν υπολογιστή. Το παιχνίδι είναι να βρεις ποιο είναι ποιο.

Εάν ένας υπολογιστής μπορεί να ξεγελάσει το 70 τοις εκατό των κριτών σε μια συνομιλία 5 λεπτών ότι νομίζουν ότι είναι άτομο, ο υπολογιστής περνάει το τεστ. Η επιτυχία του τεστ Turing -κάτι που τώρα φαίνεται επίκειται- θα έδειχνε ότι μια τεχνητή νοημοσύνη έχει επιτύχει σκέψη και κατανόηση;

Σκακιστική Πρόκληση

Ο Τούρινγκ απέρριψε αυτή την ερώτηση ως απελπιστικά ασαφή και την αντικατέστησε με έναν ρεαλιστικό ορισμό της «σκέψης», σύμφωνα με τον οποίο το να σκέφτεσαι σημαίνει απλώς να περάσεις τη δοκιμασία.

Ο Τούρινγκ έκανε λάθος, ωστόσο, όταν είπε ότι η μόνη σαφής έννοια της «κατανόησης» είναι η καθαρά συμπεριφορική του να περάσει το τεστ του. Αν και αυτός ο τρόπος σκέψης κυριαρχεί πλέον στη γνωστική επιστήμη, υπάρχει επίσης μια σαφής, καθημερινή έννοια της «κατανόησης» που συνδέεται με συνείδηση. Το να κατανοήσουμε με αυτή την έννοια σημαίνει να κατανοήσουμε συνειδητά κάποια αλήθεια για την πραγματικότητα.

Σε 1997, η Η Deep Blue AI κέρδισε τον grandmaster στο σκάκι Garry Kasparov. Σε μια καθαρά συμπεριφορική αντίληψη της κατανόησης, ο Deep Blue είχε γνώση της στρατηγικής του σκακιού που ξεπερνά κάθε άνθρωπο. Αλλά δεν ήταν συνειδητό: δεν είχε συναισθήματα ή εμπειρίες.

Οι άνθρωποι κατανοούν συνειδητά τους κανόνες του σκακιού και το σκεπτικό μιας στρατηγικής. Το Deep Blue, αντίθετα, ήταν ένας μη συναίσθητος μηχανισμός που είχε εκπαιδευτεί για να αποδίδει καλά στο παιχνίδι. Ομοίως, το ChatGPT είναι ένας μη συναίσθημα μηχανισμός που έχει εκπαιδευτεί σε τεράστιες ποσότητες ανθρωπογενών δεδομένων για τη δημιουργία περιεχομένου που φαίνεται σαν να γράφτηκε από ένα άτομο.

Δεν καταλαβαίνει συνειδητά το νόημα των λέξεων που φτύνει. Εάν η «σκέψη» σημαίνει την πράξη του συνειδητού προβληματισμού, τότε το ChatGPT δεν έχει σκέψεις για τίποτα.

Ώρα να πληρώσετε

Πώς μπορώ να είμαι τόσο σίγουρος ότι το ChatGPT δεν έχει τις αισθήσεις του; Στη δεκαετία του 1990, ο νευροεπιστήμονας Christof Koch στοίχημα ο φιλόσοφος Ντέιβιντ Τσάλμερς μια περίπτωση εκλεκτού κρασιού ότι οι επιστήμονες θα είχαν καθηλώσει πλήρως τους «νευρικούς συσχετισμούς της συνείδησης» σε 25 χρόνια.

Με αυτό, εννοούσε ότι θα είχαν εντοπίσει τις μορφές εγκεφαλικής δραστηριότητας που είναι απαραίτητες και επαρκείς για τη συνειδητή εμπειρία. Είναι καιρός να πληρώσει ο Κοχ, καθώς δεν υπάρχει συναίνεση ότι αυτό συνέβη.

Αυτό είναι επειδή συνείδηση δεν μπορεί να παρατηρηθεί κοιτάζοντας μέσα στο κεφάλι σας. Στις προσπάθειές τους να βρουν μια σύνδεση μεταξύ της εγκεφαλικής δραστηριότητας και της εμπειρίας, οι νευροεπιστήμονες πρέπει να βασιστούν στη μαρτυρία των υποκειμένων τους ή σε εξωτερικούς δείκτες της συνείδησης. Υπάρχουν όμως πολλοί τρόποι ερμηνείας των δεδομένων.

Μερικοί επιστήμονες πιστεύουν ότι υπάρχει στενή σύνδεση μεταξύ της συνείδησης και της αντανακλαστικής γνώσης - η ικανότητα του εγκεφάλου να έχει πρόσβαση και να χρησιμοποιεί πληροφορίες για τη λήψη αποφάσεων. Αυτό τους οδηγεί να πιστεύουν ότι ο προμετωπιαίος φλοιός του εγκεφάλου -όπου λαμβάνουν χώρα οι διαδικασίες υψηλού επιπέδου απόκτησης γνώσης- εμπλέκεται ουσιαστικά σε όλη τη συνειδητή εμπειρία. Άλλοι το αρνούνται αυτό, υποστηρίζοντας αντί αυτού συμβαίνει σε οποιαδήποτε τοπική περιοχή του εγκεφάλου λαμβάνει χώρα η σχετική αισθητηριακή επεξεργασία.

Οι επιστήμονες έχουν καλή κατανόηση της βασικής χημείας του εγκεφάλου. Έχουμε επίσης σημειώσει πρόοδο στην κατανόηση των λειτουργιών υψηλού επιπέδου διαφόρων κομματιών του εγκεφάλου. Αλλά δεν έχουμε ιδέα για το ενδιάμεσο: πώς πραγματοποιείται η υψηλού επιπέδου λειτουργία του εγκεφάλου σε κυτταρικό επίπεδο.

Οι άνθρωποι ενθουσιάζονται πολύ με τη δυνατότητα των σαρώσεων να αποκαλύψουν τη λειτουργία του εγκεφάλου. Αλλά η fMRI (λειτουργική απεικόνιση μαγνητικού συντονισμού) έχει πολύ χαμηλή ανάλυση: κάθε pixel σε μια σάρωση εγκεφάλου αντιστοιχεί σε 5.5 εκατομμύρια νευρώνες, πράγμα που σημαίνει ότι υπάρχει ένα όριο στο πόσες λεπτομέρειες μπορούν να δείξουν αυτές οι σαρώσεις.

Πιστεύω ότι η πρόοδος στη συνείδηση θα έρθει όταν καταλάβουμε καλύτερα πώς λειτουργεί ο εγκέφαλος.

Παύση στην ανάπτυξη

Όπως υποστηρίζω στο προσεχές βιβλίο μου Γιατί; Ο Σκοπός του Σύμπαντος, η συνείδηση πρέπει να έχει εξελιχθεί επειδή έκανε μια διαφορά συμπεριφοράς. Τα συστήματα με συνείδηση πρέπει να συμπεριφέρονται διαφορετικά, και ως εκ τούτου να επιβιώνουν καλύτερα, από τα συστήματα χωρίς συνείδηση.

Εάν όλη η συμπεριφορά καθοριζόταν από την υποκείμενη χημεία και τη φυσική, η φυσική επιλογή δεν θα είχε κανένα κίνητρο για να κάνει τους οργανισμούς συνειδητούς. θα είχαμε εξελιχθεί ως μηχανισμοί επιβίωσης χωρίς αίσθηση.

Το στοίχημά μου, λοιπόν, είναι ότι καθώς μαθαίνουμε περισσότερα για τις λεπτομερείς λειτουργίες του εγκεφάλου, θα προσδιορίσουμε με ακρίβεια ποιες περιοχές του εγκεφάλου ενσαρκώνουν τη συνείδηση. Αυτό οφείλεται στο γεγονός ότι αυτές οι περιοχές θα παρουσιάσουν συμπεριφορά που δεν μπορεί να εξηγηθεί από τη σημερινή γνωστή χημεία και φυσική. Ήδη, ορισμένοι νευροεπιστήμονες αναζητούν πιθανές νέες εξηγήσεις για τη συνείδηση για να συμπληρώσουν τις βασικές εξισώσεις της φυσικής.

Ενώ η επεξεργασία των LLM είναι πλέον πολύ περίπλοκη για να την κατανοήσουμε πλήρως, γνωρίζουμε ότι κατ' αρχήν θα μπορούσε να προβλεφθεί από τη γνωστή φυσική. Σε αυτή τη βάση, μπορούμε με βεβαιότητα να ισχυριστούμε ότι το ChatGPT δεν είναι συνειδητό.

Υπάρχουν πολλοί κίνδυνοι που εγκυμονεί η τεχνητή νοημοσύνη και υποστηρίζω πλήρως την πρόσφατη έκκληση δεκάδων χιλιάδων ανθρώπων, συμπεριλαμβανομένων των ηγετών τεχνολογίας Steve Wozniak και Elon Musk, για παύση ανάπτυξη για την αντιμετώπιση ανησυχιών για την ασφάλεια. Οι δυνατότητες απάτης, για παράδειγμα, είναι τεράστιες. Ωστόσο, το επιχείρημα ότι οι βραχυπρόθεσμοι απόγονοι των σημερινών συστημάτων τεχνητής νοημοσύνης θα είναι υπερ-έξυπνοι, και ως εκ τούτου μια σημαντική απειλή για την ανθρωπότητα, είναι πρόωρο.

Αυτό δεν σημαίνει ότι τα σημερινά συστήματα AI δεν είναι επικίνδυνα. Αλλά δεν μπορούμε να αξιολογήσουμε σωστά μια απειλή αν δεν την κατηγοριοποιήσουμε με ακρίβεια. Τα LLM δεν είναι έξυπνα. Είναι συστήματα εκπαιδευμένα να δίνουν την εξωτερική εμφάνιση της ανθρώπινης νοημοσύνης. Τρομακτικό, αλλά όχι τόσο τρομακτικό.

Αυτό το άρθρο αναδημοσιεύθηκε από το Η Συνομιλία υπό την άδεια Creative Commons. Διαβάστε το αρχικό άρθρο.

Image Credit: Gerd Altmann από Pixabay