ChatGPT לא יכול לחשוב - התודעה היא משהו שונה לחלוטין מה-AI של היום

הועלה מחדש על ידי אפלטון

עוקב: 0

היה הלם ברחבי העולם בקצב ההתקדמות המהיר עם ChatGPT ובינה מלאכותית אחרת שנוצרה עם מה שמכונה מודלים של שפה גדולה (LLMs). מערכות אלו יכולות לייצר טקסט שנראה כמציג מחשבה, הבנה ואפילו יצירתיות.

אבל האם מערכות אלו באמת יכולות לחשוב ולהבין? זו לא שאלה שניתן לענות עליה באמצעות התקדמות טכנולוגית, אבל ניתוח פילוסופי וטיעון מדוקדק אומרים לנו שהתשובה היא לא. ובלי לעבוד על הנושאים הפילוסופיים הללו, לעולם לא נבין לגמרי את הסכנות והיתרונות של מהפכת הבינה המלאכותית.

בשנת 1950, אבי המחשוב המודרני, אלן טיורינג, פרסם מאמר שהציבה דרך לקבוע אם מחשב חושב. זה נקרא כעת "מבחן טיורינג". טיורינג דמיין בן אנוש שמנהל שיחה עם שני בני שיח סמויים מהעין: זה בן אדם, זה מחשב. המשחק הוא להבין מה זה מה.

אם מחשב יכול לרמות 70 אחוז מהשופטים בשיחה של 5 דקות לחשוב שהוא אדם, המחשב עובר את המבחן. האם עמידה במבחן טיורינג - משהו שנראה כעת קרוב - מראה שבינה מלאכותית השיגה מחשבה והבנה?

אתגר השחמט

טיורינג דחה שאלה זו כמעורפלת ללא תקנה, והחליף אותה בהגדרה פרגמטית של "מחשבה", לפיה לחשוב פירושו לעבור את המבחן.

עם זאת, טיורינג טעה כשאמר שהמושג הברור היחיד של "הבנה" הוא הרעיון ההתנהגותי של עמידה במבחן שלו. למרות שדרך החשיבה הזו שולטת כעת במדע הקוגניטיבי, יש גם מושג ברור ויומיומי של "הבנה" שקשור ל תודעה. להבין במובן זה הוא לתפוס במודע איזו אמת על המציאות.

ב 1997, בינה מלאכותית כחולה עמוקה ניצחה את אמן השחמט גארי קספרוב. בתפיסה התנהגותית גרידא של הבנה, ל-Deep Blue היה ידע באסטרטגיית שחמט שעולה על כל בן אדם. אבל זה לא היה מודע: לא היו לו רגשות או חוויות.

בני אדם מבינים במודע את כללי השחמט ואת הרציונל של אסטרטגיה. כחול עמוק, לעומת זאת, היה מנגנון חסר תחושה שהוכשר להופיע היטב במשחק. באופן דומה, ChatGPT הוא מנגנון חסר תחושה שהוכשר על כמויות אדירות של מידע מעשה ידי אדם כדי ליצור תוכן שנראה כאילו הוא נכתב על ידי אדם.

הוא לא מבין במודע את משמעות המילים שהוא יורק. אם "מחשבה" פירושה פעולת השתקפות מודעת, אז ל-ChatGPT אין מחשבות על שום דבר.

הגיע הזמן לשלם

איך אני יכול להיות כל כך בטוח ש-ChatGPT לא בהכרה? בשנות ה-1990, מדען המוח כריסטוף קוך מהמר לפילוסוף דיוויד צ'למרס על מקרה של יין משובח שמדענים היו מצמידים לחלוטין את "המתאם העצבי של התודעה" תוך 25 שנה.

בכך הוא התכוון שהם היו מזהים את צורות הפעילות המוחית הנחוצות ומספיקות לחוויה מודעת. הגיע הזמן שקוך ישלם, כי אין הסכמה שזה קרה.

זה בגלל ש תודעה לא ניתן לראות על ידי הסתכלות בתוך הראש שלך. בניסיונותיהם למצוא קשר בין פעילות מוחית לחוויה, על מדעני המוח להסתמך על עדות הנבדקים שלהם, או על סמנים חיצוניים של תודעה. אבל ישנן מספר דרכים לפרש את הנתונים.

יש מדענים מאמינים שיש קשר הדוק בין תודעה לבין קוגניציה רפלקטיבית - היכולת של המוח לגשת למידע ולהשתמש בו כדי לקבל החלטות. זה מוביל אותם לחשוב שקליפת המוח הקדם-מצחית - שבה מתרחשים התהליכים הגבוהים של רכישת ידע - מעורבת בעצם בכל חוויה מודעת. אחרים מכחישים זאת, טוענים במקום זאת זה קורה בכל אזור מוח מקומי שבו מתרחש העיבוד החושי הרלוונטי.

למדענים יש הבנה טובה של הכימיה הבסיסית של המוח. התקדמנו גם בהבנת הפונקציות ברמה גבוהה של חלקים שונים במוח. אבל אנחנו כמעט חסרי מושג לגבי החלק שביניהם: כיצד מתממשת התפקוד ברמה הגבוהה של המוח ברמה התאית.

אנשים מתלהבים מאוד מהפוטנציאל של סריקות לחשוף את פעולת המוח. אבל ל-fMRI (הדמיית תהודה מגנטית פונקציונלית) יש רזולוציה נמוכה מאוד: כל פיקסל בסריקת מוח מתאימה ל-5.5 מיליון נוירונים, מה שאומר שיש גבול לכמה פרטים הסריקות האלה מסוגלות להראות.

אני מאמין שהתקדמות בתודעה תגיע כאשר נבין טוב יותר כיצד המוח פועל.

הפסקה בפיתוח

כפי שאני טוען בספרי הקרוב למה? מטרת היקום, התודעה בוודאי התפתחה כי היא עשתה הבדל התנהגותי. מערכות עם תודעה חייבות להתנהג אחרת, ומכאן לשרוד טוב יותר, ממערכות ללא תודעה.

אם כל ההתנהגות הייתה נקבעת על ידי הכימיה והפיזיקה הבסיסית, לברירה הטבעית לא הייתה מוטיבציה להפוך אורגניזמים למודעים; היינו מתפתחים כמנגנוני הישרדות חסרי תחושה.

ההימור שלי, אם כן, הוא שככל שנלמד יותר על פעולתו המפורטת של המוח, נזהה במדויק אילו אזורים במוח מגלמים תודעה. הסיבה לכך היא שהאזורים הללו יפגינו התנהגות שלא ניתן להסביר על ידי הכימיה והפיזיקה הידועות כיום. כְּבָר, כמה מדעני מוח מחפשים הסברים פוטנציאליים חדשים לתודעה כדי להשלים את המשוואות הבסיסיות של הפיזיקה.

בעוד שהעיבוד של LLMs מורכב כעת מכדי שנוכל להבין אותו במלואו, אנו יודעים שבאופן עקרוני ניתן לחזות אותו לפי פיסיקה ידועה. על בסיס זה, אנו יכולים לטעון בביטחון ש-ChatGPT אינו מודע.

ישנן סכנות רבות הנשקפות מ-AI, ואני תומך לחלוטין בקריאה האחרונה של עשרות אלפי אנשים, כולל מנהיגי הטכנולוגיה סטיב ווזניאק ואילון מאסק, לעצור פיתוח לטיפול בבעיות בטיחות. הפוטנציאל להונאה, למשל, הוא עצום. עם זאת, הטיעון שצאצאים בטווח הקרוב של מערכות בינה מלאכותיות הנוכחיות יהיו סופר אינטליגנטים, ומכאן איום גדול על האנושות, מוקדם מדי.

זה לא אומר שמערכות ה-AI הנוכחיות אינן מסוכנות. אבל אנחנו לא יכולים להעריך נכון איום אלא אם כן נסווג אותו במדויק. לימודי תואר שני אינם אינטליגנטים. הן מערכות מאומנות לתת מראה חיצוני של אינטליגנציה אנושית. מפחיד, אבל לא עד כדי כך מפחיד.

מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.

תמונת אשראי: גרד אלטמן החל מ- pixabay