Applying Chain-of-Thought To AI-enhanced Human Thinking - Ross Dawson

הועלה מחדש על ידי אפלטון

עוקב: 0

בין החידושים החשובים ביותר לאחרונה לשיפור הערך והאמינות של מודלים של שפה גדולה הם שרשרת מחשבה ונגזרותיו כולל עץ מחשבה ו גרף-מחשבה.

מבנים אלה הם גם בעלי ערך רב בתכנון יעיל זרימות עבודה של בני אדם + AI לחשיבה טובה יותר.

במאמר זה אספק תצוגה ברמה גבוהה של שרשרת המחשבה ולאחר מכן אסתכל על יישומים ל אינטליגנציה אנושית מוגברת בינה מלאכותית.

שרשרת מחשבה

מודלים של שפה גדולה (LLMs) הם בדרך כלל מצוינים בהפקת טקסט, אך גרועים בכל משימות הכרוכות בהיגיון רציף.

העיתון המפורסם של ינואר 2022 שרשרת-מחשבה מעוררת היגיון במודלים של שפות גדולות הסביר כיצד שרשרת מחשבה - "סדרה של שלבי חשיבה ביניים" - יכולה לשפר באופן משמעותי את ביצועי ה-LLM במשימות חשיבה כולל מתמטיקה וחידות שגרתיות.

סביר להניח שראית את התמונה הזו הנייר עושה את הסיבובים.

קונספט זה הותאם במהירות ליישומים אחרים כולל נימוק זמני, מודלים של שפה חזותית, אחזור חשיבה מוגברת, ודרכים רבות אחרות לשיפור הביצועים של דגמי AI.

שרשרת המחשבה הוכחה כבעלת ערך במיוחד ביישומים מעשיים לפתרון בעיות. דוגמאות ברורות כוללות רפואה, חוק, ו השכלה.

ה-PaLM ו-Med-PaLM של גוגל משלבים מבנים של שרשרת מחשבה וסביר להניח שה-GPT-4 של OpenAI עושה זאת, כלומר כאשר אתה משתמש ב-LLM, הגישות האלה כבר מובנות.

למרות זאת, המפורסמת ההנחיה "בואו נחשוב על זה צעד אחר צעד כדי להיות בטוחים שיש לנו את התשובה הנכונה" או וריאציות על זה לתת את הביצועים הטובים ביותר של LLM עבור סוגים רבים של משימות.

אבולוציה של שרשרת המחשבה

מספר חידושים הופיעו על ידי בנייה על שרשרת המחשבה.

תהליכי חשיבה אפקטיביים אינם בהכרח בעקבות מסלול אחד. זה מוביל ל עץ מחשבה מבנים, המתוארים ב עץ המחשבות: פתרון בעיות מכוון עם מודלים של שפות גדולות.

כפי שמוצג בתרשים זה מתוך המאמר, שרשרת המחשבה יכולה להתקדם תחילה לבחירת הנתיב השכיח ביותר מבין פלטים מרובים, ולאחר מכן בחירה מתוך הנתיבים הטובים ביותר של מספר נתיבים בתהליך החשיבה.

ההתפתחויות האחרונות יותר בנושא שרשרת המחשבה כוללות את המבטיח מאוד גרף-מחשבה כמו גם היפרגרף של מחשבה.

מבני 'חשיבה' חדשים יהיו מרכזיים להתקדמות בינה מלאכותית

שרשרת מחשבה וטכניקות קשורות נוצרו כדי לטפל במגבלות של LLMs ולשפר את היכולות שלהם.

ההתקדמות המתמשכת של מודלים AI גנרטיביים תסתמך הרבה יותר על סוגים אלה של טכניקות חשיבה מובנות מאשר קיבולת מחשוב או גודל מודל. גישות אלו כבר אפשרו LLMs קטנים ויעילים להשגת ביצועים שיכול להתקרב לזה של הדגמים הגדולים ביותר.

שרשרת מחשבה ומודלים דומים גם מובילים ישירות רשתות מרובות סוכנים, שבהן מונחות שרשראות או רשתות מחשבה על פני מספר מודלים מותאמים למשימות כדי ליצור היגיון ותוצאות מעולות בהרבה ממה שניתן להשיג בתוך מודל יחיד.

בינה מוגברת חשובה יותר מבינה כללית מלאכותית

"הטכנולוגיה לא צריכה לכוון להחליף בני אדם, אלא להגביר את היכולות האנושיות." - דאג אנגלברט

נראה שהכוח המניע מאחורי כמעט כל פיתוח בינה מלאכותית הוא יצירת מכונות שיכולות לחקות ולעלות על המודיעין והיכולות האנושיות.

זו שאיפה מובנת.

אבל אני הרבה הרבה יותר מתעניין בזה כיצד בינה מלאכותית יכולה להגביר את האינטליגנציה האנושית.

אנחנו יכולים לעבוד על שני התחומים בו-זמנית.

אבל בכל תרחיש אפשרי להתקדמות לקראת בינה כללית מלאכותית, יהיה לנו טוב יותר אם השקענו אנרגיה שווה לפחות בנייה, למידה ויישום מבני חשיבה Human + AI.

Humans + AI Thinking Workflows

הרעיון של בני אדם + AI נמצא בלב העבודה שלי.

המסגרת למטה שיצרתי לפני שנה מציגה את המסגרת המוקדמת שלי של "זרימות עבודה של בני אדם + AI", שבו אנשים ובינה מלאכותית מתייחסים ברצף למשימות שאליהן הם מתאימים ביותר.

אם זה מתוכנן היטב, זה בהכרח מייצר תוצאות עדיפות ממה שכל אחד יכול לבדו.

מאז אני חופר בפירוט רב יותר במה הם מבני החשיבה הטובים ביותר של Humans + AI.

אלה יהיו היסודות של השלב הבא של אינטליגנציה אנושית מוגברת.

שרשרת מחשבה לחשיבה אנושית משופרת בינה מלאכותית

המושגים הנובעים מ-Chain-of-Thought פותחו כדי לשפר את היכולות העצמאיות של LLMs.

עם זאת, הם גם מתגלים כבעלי ערך רב במיקסום הערך של בני אדם ובינה מלאכותית בעבודה משותפת.

יש מגוון של טכניקות ליישום מבני שרשרת מחשבה על בני אדם + זרימות עבודה של חשיבה בינה מלאכותית.

מושגי בינה מלאכותית מיושמים באינטליגנציה מוגברת

ניתן להשתמש ב-LLMs כדי להציע כיצד ניתן לפרק משימות לאלמנטים עוקבים (או ברשת), כאשר בני אדם או AI מזהים היכן יכולות אנושיות או AI עשויות להתאים ביותר.

גישה ספציפית אחת מתוארת ב אדם-בלולאה דרך שרשרת-מחשבה, שבו "תיקון ידני של תת-לוגיקה ברציונלים יכול לשפר את ביצועי ההיגיון של LLM."

"מסגור" היעדים, המשימה והמבנה, כפי שמוצג בתרשים זרימת העבודה של Humans + AI, מניע את איכות התוצאות. זה בדרך כלל מפקח בצורה הטובה ביותר על ידי בני אדם, תוך שימוש בזרימות כגון AI המציעה או הערכת פרמטרים.

אני משלב גישות אלו ואחרות בסט של "דפוסי חשיבה משופרים בינה מלאכותית".

באופן כללי יותר, ניתן ליישם מגוון רחב של התקדמות בינה מלאכותית, לא רק שרשרת מחשבה, להגברת האינטליגנציה האנושית.

בכוונתי לכתוב מאמר דומה על יישום המושגים של רשתות אדפרסיביות כלליות ל אינטליגנציה סימביוטית אנושית-AI מבנים.