החשיבות של גיוון בבינה מלאכותית היא לא דעה, זו מתמטיקה - בלוג IBM

כולנו רוצים לראות את הערכים האנושיים האידיאליים שלנו משתקפים בטכנולוגיות שלנו. אנו מצפים מטכנולוגיות כמו בינה מלאכותית (AI) לא לשקר לנו, לא להפלות ולהיות בטוחות עבורנו ועבור ילדינו. עם זאת, יוצרי בינה מלאכותית רבים מתמודדים כעת עם תגובה נגד ההטיות, אי הדיוקים ונהלי הנתונים הבעייתיים שנחשפים במודלים שלהם. בעיות אלו דורשות יותר מפתרון טכני, אלגוריתמי או מבוסס בינה מלאכותית. במציאות, נדרשת גישה הוליסטית, סוציו-טכנית.

המתמטיקה מוכיחה אמת חזקה

כל המודלים החזויים, כולל AI, מדויקים יותר כאשר הם משלבים אינטליגנציה וניסיון אנושי מגוונים. זו לא דעה; יש לזה תוקף אמפירי. קחו בחשבון את משפט חיזוי גיוון. במילים פשוטות, כאשר המגוון בקבוצה גדול, הטעות של הקהל קטנה - תומכת במושג "חוכמת ההמון". במחקר רב השפעה, הוכח שקבוצות מגוונות של פותרי בעיות עם יכולת נמוכה יכולות להעלות על קבוצות של פותרי בעיות בעלי יכולת גבוהה (הונג אנד פייג', 2004).

בשפה מתמטית: ככל שהשונות שלך רחבה יותר, הממוצע שלך סטנדרטי יותר. המשוואה נראית כך:

A מחקר נוסף סיפק עוד חישובים שמצמצמים את ההגדרות הסטטיסטיות של קהל חכם, כולל בורות בתחזיות של חברים אחרים והכללה של אלה עם שונה בצורה מקסימלית תחזיות או שיפוטים (בקורלציה שלילית). אז זה לא רק נפח, אלא גיוון שמשפר את התחזיות. כיצד עשויה התובנה הזו להשפיע על הערכת מודלים של AI?

מודל (חוסר) דיוק

אם לצטט פרשייה נפוצה, כל הדגמים טועים. זה נכון בתחומי סטטיסטיקה, מדע ובינה מלאכותית. מודלים שנוצרו עם חוסר מומחיות בתחום יכולים להוביל שָׁגוּי תפוקות.

כיום, קבוצה הומוגנית זעירה של אנשים קובעת באילו נתונים להשתמש כדי להכשיר מודלים של בינה מלאכותית, שנלקחו ממקורות המייצגים יתר על המידה את האנגלית. "עבור רוב למעלה מ-6,000 השפות בעולם, נתוני הטקסט הזמינים אינם מספיקים כדי להכשיר מודל יסוד בקנה מידה גדול" (מתוך "על ההזדמנויות והסיכונים של מודלים של בסיס" Bomasani et al., 2022).

בנוסף, המודלים עצמם נוצרים מארכיטקטורות מוגבלות: "כמעט כל דגמי ה-NLP המתקדמים מותאמים כעת מאחד מכמה מודלים בסיסיים, כגון BERT, RoBERTa, BART, T5 וכו'. בעוד שההומוגיזציה זו מייצרת מינוף גבוה במיוחד (כל שיפור במודלים של הבסיס יכול להוביל ליתרונות מיידיים בכל ה-NLP), זו גם אחריות; כל מערכות הבינה המלאכותית עשויות לרשת את אותן הטיות בעייתיות של כמה דגמי יסוד (Bomasani et al.) "

כדי שה-AI הגנרטיבי ישקף טוב יותר את הקהילות המגוונות שהיא משרתת, מגוון רחב בהרבה של נתונים של בני אדם חייב להיות מיוצג במודלים.

הערכת דיוק המודל הולכת יד ביד עם הערכת הטיה. עלינו לשאול, מהי כוונת המודל ולמי הוא מותאם? חשבו, למשל, מי מרוויח הכי הרבה מאלגוריתמים של המלצות תוכן ואלגוריתמים של מנועי חיפוש. לבעלי עניין עשויים להיות אינטרסים ומטרות שונות בתכלית. אלגוריתמים ומודלים דורשים יעדים או פרוקסי לשגיאת Bayes: השגיאה המינימלית שמודל חייב לשפר עליה. פרוקסי זה הוא לעתים קרובות אדם, כגון מומחה לנושא עם מומחיות בתחום.

אתגר אנושי מאוד: הערכת סיכונים לפני רכישת מודל או פיתוח

תקנות AI ותוכניות פעולה מתפתחות מדגישות יותר ויותר את החשיבות של טפסי הערכת השפעה אלגוריתמית. מטרת הטפסים הללו היא ללכוד מידע קריטי על מודלים של AI כך שצוותי ממשל יוכלו להעריך ולטפל בסיכונים שלהם לפני פריסתם. שאלות אופייניות כוללות:

• מהו מקרה השימוש של הדגם שלך?
• מהם הסיכונים להשפעה שונה?
• איך אתה מעריך את ההוגנות?
• איך אתה גורם לדגם שלך להסבר?

למרות שעוצבו מתוך כוונות טובות, הבעיה היא שרוב בעלי דגמי הבינה המלאכותית אינם מבינים כיצד להעריך את הסיכונים במקרה השימוש שלהם. פזמון נפוץ עשוי להיות, "איך המודל שלי יכול להיות לא הוגן אם הוא לא אוסף מידע אישי מזהה (PII)?" כתוצאה מכך, לעתים רחוקות מילוי הטפסים מתוך התחשבות הדרושה למערכות ממשל לסמן במדויק גורמי סיכון.

לפיכך, האופי הסוציו-טכני של הפתרון מודגש. לא ניתן לתת לבעל דגם - אדם פשוט רשימה של תיבות סימון כדי להעריך אם מקרה השימוש שלו יגרום נזק. במקום זאת, מה שנדרש הוא קבוצות של אנשים עם התנסויות שונות בעולם החיים המתכנסות בקהילות שמציעות ביטחון פסיכולוגי כדי לנהל שיחות קשות על השפעה שונה.

מברך על פרספקטיבות רחבות יותר עבור AI מהימן

IBM® מאמינה בנקיטת גישת "אפס לקוח", תוך יישום ההמלצות והמערכות שהיא תעשה ללקוחותיה על פני ייעוץ ופתרונות מונחי מוצר. גישה זו משתרעת על פרקטיקות אתיות, וזו הסיבה ש-IBM יצרה מרכז מצוינות של AI מהימן (COE).

כפי שהוסבר לעיל, מגוון חוויות ומערך כישורים הוא קריטי כדי להעריך כראוי את ההשפעות של AI. אבל הסיכוי להשתתף במרכז מצוינות יכול להיות מאיים בחברה מפוצצת בחדשני בינה מלאכותית, מומחים ומהנדסים מכובדים, ולכן יש צורך בטיפוח קהילה של בטיחות פסיכולוגית. IBM מעבירה זאת בבירור על ידי כך, "מתעניין בבינה מלאכותית? מתעניין באתיקה של AI? יש לך מקום ליד השולחן הזה."

ה-COE מציע הדרכה באתיקה של AI למתרגלים בכל רמה. מוצעות גם למידה סינכרונית (מורה ותלמידים במסגרות כיתתיות) וגם תוכניות א-סינכרוניות (הנחיה עצמית).

אבל זה של COE יישומית הכשרה שנותנת למתרגלים שלנו את התובנות העמוקות ביותר, כאשר הם עובדים עם צוותים גלובליים, מגוונים ורב-תחומיים על פרויקטים אמיתיים כדי להבין טוב יותר את ההשפעה השונה. הם גם ממנפים מסגרות חשיבה עיצוביות של IBM עיצוב עבור AI הקבוצה משתמשת באופן פנימי ועם לקוחות כדי להעריך את ההשפעות הלא מכוונות של מודלים של בינה מלאכותית, תוך שמירה על אלו שלעתים קרובות מודדים לשוליים בראש המוח. (ראה של סילביה דאקוורת'ס גלגל הכוח והפריבילגיה לדוגמאות לאופן שבו מאפיינים אישיים מצטלבים כדי להעניק זכויות יתר או לדחוק אנשים לשוליים.) IBM גם תרמה רבות מהמסגרות לקהילת הקוד הפתוח עיצוב אתי.

להלן כמה מהדוחות ש-IBM פרסמה בפומבי על פרויקטים אלה:

נדרשים כלים לניהול מודלים אוטומטיים של AI כדי לקבל תובנות חשובות לגבי הביצועים של מודל ה-AI שלך. אבל שים לב, לכידת סיכונים הרבה לפני שהדגם שלך פותח וייצור הוא אופטימלי. על ידי יצירת קהילות של מתרגלים מגוונים ורב-תחומיים המציעים מרחב בטוח לאנשים לנהל שיחות קשות על השפעה שונה, אתה יכול להתחיל את המסע שלך למימוש העקרונות שלך ולפתח בינה מלאכותית באחריות.

בפועל, כאשר אתם מגייסים מתרגלי AI, קחו בחשבון שהרבה יותר מ-70% מהמאמץ ביצירת מודלים הוא איסוף הנתונים הנכונים. אתם רוצים להעסיק אנשים שיודעים לאסוף נתונים שהם מייצגים אבל גם נאספים בהסכמה. אתה גם רוצה שאנשים שיודעים לעבוד בשיתוף פעולה הדוק עם מומחי תחום כדי לוודא שיש להם את הגישה הנכונה. הבטחת למתרגלים אלה יש את האינטליגנציה הרגשית להתמודד עם האתגר של אצור בינה מלאכותית באחריות בענווה וביכולת הבחנה היא המפתח. עלינו להיות מכוונים ללמוד כיצד לזהות כיצד ומתי מערכות בינה מלאכותית יכולות להחמיר את חוסר השוויון באותה מידה שהן יכולות להגביר את האינטליגנציה האנושית.

המציא מחדש את האופן שבו העסק שלך עובד עם AI