יועציו של ראש הממשלה ההודי אומרים כי בינה מלאכותית יכולה לגרום ל"סכיזופרניה המונית"

המועצה המייעצת הכלכלית של הודו לראש הממשלה (EACPM) כתבה מסמך המזהיר כי תקנות הבינה המלאכותית הגלובליות הנוכחיות עשויות להיות בלתי יעילות, והמליצה להסדיר את הטכנולוגיה באמצעות טקטיקות חלופיות - כמו אלו המשמשות בשווקים הפיננסיים.

המועצה מודאגת מאוד לגבי AI. המסמך שלה מזהיר "באמצעות שילוב של מעקב, העברת מסרים משכנעים ויצירת מדיה סינתטית, בינה מלאכותית זדונית יכולה לשלוט יותר ויותר במערכות אקולוגיות של מידע ואפילו לייצר מציאות מרמה מותאמות אישית כדי לכפות על התנהגות אנושית, ולגרום לסכיזופרניה המונית".

הארגון מבקר את גישתה של ארה"ב לבינה מלאכותית כחסרת ידיים מדי, את הגישה של בריטניה כמי שמציגה סיכון על ידי היותה פרו-חדשנות ו-laissez-fair, וכללי הבינה המלאכותית של האיחוד האירופי כפגומים עקב פיצול המדינות החברות בגוש ואימצו דגשים ויישומים שונים של אמצעי אכיפה.

המסמך גם טוען שהנטייה של סין להסדיר עם "מערכת בירוקרטית מרכזית כל-יכולה" לוקה בחסר - כפי שהוכח על ידי "המקור הסביר של דליפת מעבדה של COVID-19".

אנחנו מבעד למראה כאן, אנשים.

(למען הפרוטוקול, המשרד האמריקאי של מנהל המודיעין הלאומי עשה זאת לא מצא אינדיקציה שהנגיף דלף ממעבדה סינית.)

אבל אנחנו סוטים.

המועצה מציעה כי בינה מלאכותית תיחשב כ"מערכת מבוזרת של ארגון עצמי [המתפתחת] באמצעות לולאות משוב, מעברי פאזה ורגישות לתנאים ראשוניים" ומציגה דוגמאות אחרות למערכות כאלה - כמו ישויות לא ליניאריות הנראות בשווקים הפיננסיים, התנהגותן של מושבות נמלים , או דפוסי תנועה.

"השיטות המסורתיות נופלות בגלל האופי הלא ליניארי והבלתי צפוי של AI. מערכות בינה מלאכותית דומות למערכות מסתגלות מורכבות (CAS), שבהן רכיבים מתקשרים ומתפתחים בדרכים בלתי צפויות." מוסבר [PDF] המועצה.

המועצה לא מתלהבת להסתמך על אמצעים "לפני כן", מכיוון שאי אפשר לדעת מראש את הסיכון שמערכת בינה מלאכותית תציג - ההתנהגות שלה היא תוצאה של יותר מדי גורמים.

לפיכך המסמך מציע להודו לאמץ חמישה אמצעים רגולטוריים:

• הקמת מעקות ומחיצות, שאמור להבטיח שטכנולוגיות בינה מלאכותית אינן חורגות מהתפקוד המיועד שלהן ואינן חודרות לשטחים מסוכנים - כמו קבלת החלטות בנושא חימוש גרעיני. אם הם פורצים איכשהו את מעקה הבטיחות במערכת אחת, המחיצות נמצאות שם כדי לוודא שהוא לא מתפשט.
• הבטחת עקיפות ידניות ונקודות חנק לאישור ששומרים על בני אדם בשליטה, ושומרים על בטיחותם עם אימות רב-גורמי ותהליך סקירה רב-שכבתי עבור מקבלי החלטות אנושיים.
• שקיפות והסבר עם אמצעים כמו רישוי פתוח עבור אלגוריתמי ליבה כדי לטפח סביבה ידידותית לביקורת, ביקורות והערכות קבועות ותיעוד פיתוח סטנדרטי.
• אחריות מובהקת באמצעות פרוטוקולי אחריות מוגדרים מראש, דיווח על תקריות מתוקנן ומנגנוני חקירה.
• חקיקת גוף רגולטורי מיוחדזוכה למנדט רחב, נוקט בגישה מונעת משוב, עוקב אחר התנהגות מערכת בינה מלאכותית, משלב מערכות התראה אוטומטיות ומקים רישום לאומי.

המועצה המליצה לחפש מערכות CAS אחרות כדי לקבל רעיונות כיצד לספק את הרעיונות שלה - בעיקר השווקים הפיננסיים.

"תובנות מניהול מערכות כאוטיות כמו שווקים פיננסיים מדגימות גישות רגולציה אפשריות עבור טכנולוגיות מורכבות", מציין המסמך, המצביע על כך שניתן לעצב רגולטורים ייעודיים של AI על בסיס רגולטורים פיננסיים כמו SEBI של הודו או SEC של ארה"ב.

בדיוק כפי שגופים אלה מטילים עצירות מסחר כאשר השווקים נמצאים בסכנה, הרגולטורים יכולים לאמץ "נקודות חנק" דומות שבהן AI יובא לעקוב. דיווח כספי חובה הוא מודל טוב לסוג הגילוי שמפעילי בינה מלאכותית עשויים להידרש להגיש.

חששותיהם של המחברים ניזונים מאמונה כי הגדלת הנוכחות של AI – בשילוב עם האטימות של פעולתו – פירושה תשתית קריטית, פעולות הגנה ותחומים רבים אחרים נמצאים בסיכון.

בין הסכנות שהם מתווים הם "בינה מלאכותית בורחת" שבה מערכות עלולות להשתפר בעצמן באופן רקורסיבי מעבר לשליטה אנושית ו"לא מסתדרות עם רווחת האדם", ואפקט הפרפר - תרחיש "שבו שינויים קלים יכולים להוביל לתוצאות משמעותיות ובלתי צפויות".

"לכן, מערכת של בקרת מדינה אטומה על אלגוריתמים, מערכי אימון ומודלים במטרה למקסם אינטרסים יכולה להוביל לתוצאות קטסטרופליות", הזהירה המועצה.

המסמך מציין שהתקנות המוצעות שלו עשויות לגרום לכך שיש לשלול תרחישים מסוימים.

"ייתכן שלעולם לא נאפשר אינטרנט סופר מחובר לכל דבר", מודה המועצה. אבל היא מסיקה שלאנושות יש יותר מה להרוויח מתקנות חזקות.

"אלה שיוצרים כלי בינה מלאכותית לא יפטרו בקלות בגלל השלכות לא מכוונות לכאורה - ובכך יוכנסו 'עור במשחק' לשעבר. בני אדם ישמרו על סמכויות ביטול והרשאה. ביקורת רגילה חייבת לאכוף יכולת הסבר". ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2024/02/01/indian_pms_ai_advice/