פיתוח בינה מלאכותית "פזיז לחלוטין" טוען לאקדמיה של ארה"ב

מערכות בינה מלאכותית מהוות איום קיומי על החברה, כאשר קצב הפיתוח המתמשך "פזיז לחלוטין", לדברי אקדמאי אמריקאי אחד.

ההערות עלו בקנה אחד עם פרסום דו"ח חדש ומזהיר שחיברו 23 מומחים בכירים. הדו"ח "ניהול סיכוני בינה מלאכותית בעידן של התקדמות מהירה", שפורסם ביום שלישי, מזהיר מפני חוסר צדק מוגבר, שחיקת היציבות החברתית וקץ להבנת המציאות שלנו.

סיכונים גדולים

קבוצה של AI מומחים, כולל שני "סנדקים" בתחום, עומדים מאחורי דו"ח חדש המזהיר מפני הסכנות של הטכנולוגיה.

סטיוארט ראסל, פרופסור למדעי המחשב באוניברסיטת קליפורניה, ברקלי, היה בין המומחים למחבר המסמך.

"הגיע הזמן להתייחס ברצינות למערכות AI מתקדמות", אמר ראסל האפוטרופוס on יום שלישי. "אלה לא צעצועים. הגדלת היכולות שלהם לפני שנבין איך להפוך אותם בטוחים היא פזיזה לחלוטין. יש יותר תקנות על חנויות כריכים מאשר על חברות בינה מלאכותית".

מחברים אחרים של המסמך הם ג'פרי הינטון ויושוע בנג'יו, הנחשבים כשניים משלושת "הסנדקים של הבינה המלאכותית". בשנת 2018, הם זכו בפרס ACM Turing על עבודתם בנושא.

השמיים לדווח גורם לקריאה מדאיגה, תוך ציון מספר מלכודות פוטנציאליות כאשר הבינה המלאכותית ממשיכה להתקדם. דאגה אחת שהעלו המחברים היא הפוטנציאל הכמעט בלתי מוגבל של הטכנולוגיה, שיכול אפילו להתפתח מעבר להבנתנו.

"אין סיבה בסיסית לכך שהתקדמות הבינה המלאכותית תאט או תיפסק ברמה האנושית", נכתב בדו"ח.

המחברים מציינים שבתחומים צרים כמו קיפול חלבון או משחקי אסטרטגיה, AI כבר עלה על בני האדם. הדו"ח ממשיך ומוסיף כי "עלינו להתייחס ברצינות לאפשרות שמערכות בינה מלאכותית כלליות יצליחו להתעלות על היכולות האנושיות בתחומים קריטיים רבים בעשור הזה או הבא".

AI שנבנה על ידי AI

בעוד שלמערכות בינה מלאכותית יש כיום אוטונומיה מוגבלת, מתבצעת עבודה לשנות זאת. חלק ממערכות הבינה המלאכותית מרחיקות לכת כמו לבנות ולתכנת את עצמן, מה שמוביל לאפשרות של AIs שנבנו על ידי AI.

מערכות אלו יכולות לחתור למטרות שבני אדם לא מצליחים לצפות מראש.

כפי שצוין בדו"ח, "ברגע שמערכות בינה מלאכותית אוטונומיות חותרות למטרות לא רצויות, מוטמעות על ידי שחקנים זדוניים או בטעות, ייתכן שלא נוכל לשמור עליהן."

"מערכות AI אוטונומיות מתקדמות יציבו אתגרי שליטה חסרי תקדים", הוסיפו המחברים. "ללא זהירות מספקת, אנו עלולים לאבד באופן בלתי הפיך שליטה על מערכות בינה מלאכותית אוטונומיות, מה שהופך את ההתערבות האנושית ללא יעילה."

פסגת בינה מלאכותית

הדו"ח מגיע בזמן שמנהיגי AI מתכוננים להיפגש בבלצ'לי פארק בחודש הבא.

דובר ממשלת בריטניה אמר כי השיחות נועדו ל"מדינות דומות שחולקות את ההכרה בכך שבינה מלאכותית מציגה הזדמנויות משמעותיות, אך מבינות שעלינו לוודא שהמעקות הנכונים נמצאים במקום."

לדברי ראש ממשלת בריטניה רישי סונק, "בריטניה נמצאת במיקום טוב להוביל ולעצב את השיחה על זה כי אנחנו חזקים מאוד בכל הקשור לבינה מלאכותית".

המבקרים שואלים אם לבריטניה יש את ההון הפוליטי הדרוש כדי להפעיל השפעה אמיתית על חברות טכנולוגיה גדולות וממשלות בינלאומיות.

ראש ממשלת איטליה ג'ורג'יה מלוני היא המנהיגה המאושרת היחידה של ה-G7 שקיבלה את הזמנתו של סונק, בעוד שראש ממשלת קנדה ג'סטין טרודו, קנצלר גרמניה אולף שולץ ונשיא ארה"ב ג'ו ביידן כבר אמרו את התירוצים שלהם.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://metanews.com/ai-development-utterly-reckless-claims-u-s-academic/