מייסד שותף של OpenAI, סם אלטמן, מאשר ש"ל-ChatGPT יש חסרונות סביב הטיה"

"אנחנו יודעים של-ChatGPT יש חסרונות סביב הטיה, ופועלים לשפר אותה."

אתמול כתבנו על OpenAI לאחר שחלק מהמשתמשים ב-ChatGPT דיווחו שהארגון שייסד אותם אילון מאסק וסם אלטמן הפך את הצ'אט בוט לכלי פוליטי ועכשיו משתמשים בו כדי לקדם טרנסג'נדריזם. "הנזק שנגרם לאמינות של בינה מלאכותית על ידי מהנדסי ChatGPT בונים בהטיה פוליטית הוא בלתי הפיך", אחד ChatGPT התלונן. "AI אומרת לאשר ילדים טרנסג'נדרים", אמר משתמש אחר ב-ChatGP.

רק כמה שעות לאחר סיפור, מייסד שותף של OpenAI, סם אלטמן, פנה לרשתות החברתיות כדי לטפל בבעיות יחד עם השנאה המופנית כלפי מהנדסי OpenAI. בפוסט שרשור בטוויטר, אלטמן הודה של-ChatGPT יש כרגע כמה פגמים סביב הטיה, דבר שאינו נדיר עבור כל טכנולוגיה חדשה. אלטמן הוסיף כי החברה פועלת לשיפור הצ'אטבוט. אבל הוא לא קיבל בעין יפה את ההתקפות על מהנדסי OpenAI, וכינה זאת מזעזע.

"אנחנו יודעים של-ChatGPT יש חסרונות סביב הטיה, ופועלים לשפר אותה. אבל הפניית שנאה לעובדי OAI בודדים בגלל זה היא מחרידה. תרביץ לי כל מה שאתה רוצה, אבל לתקוף אנשים אחרים כאן לא עוזר למגרש להתקדם, והאנשים שעושים את זה יודעים את זה".

אנו יודעים של-ChatGPT יש חסרונות סביב הטיה, ופועלים לשיפורה.

אבל הפניית שנאה לעובדי OAI בודדים בגלל זה היא מחרידה. תפגע בי כל מה שאתה רוצה, אבל לתקוף אנשים אחרים כאן לא עוזר למגרש להתקדם, והאנשים שעושים את זה יודעים את זה.

- סם אלטמן (@ סאמה) פברואר 1, 2023

אלטמן הוסיף גם כי OpenAI "פועלת לשיפור הגדרות ברירת המחדל להיות ניטרליות יותר, וגם כדי להעצים את המשתמשים לגרום למערכות שלנו להתנהג בהתאם להעדפות האישיות שלהם בגבולות רחבים. זה קשה יותר ממה שזה נשמע וייקח לנו קצת זמן להגיע לסדר".

כולם בצוות openai יוצאי דופן ואכפת להם מאוד. אני מאוד אסיר תודה על כל התרומות שלהם.❤️

- סם אלטמן (@ סאמה) פברואר 1, 2023

OpenAI היא לא חברת הטכנולוגיה הראשונה שמתמודדת עם בעיית הטיית AI. עוד בשנת 2021, שני מהנדסי גוגל התפטרו על פיטוריה של חוקרת אתיקה בינה מלאכותית שחורה תמנית גברו, מדענית מחשבים ילידת אריתריאה שעובדת על הטיה אלגוריתמית וכריית נתונים.

בשנת 2020 כתבה תמנית גברו מאמר שבו אמרה שגוגל וחברות טכנולוגיה גדולות אחרות הן "גזעני מבחינה מוסדית." המאמר שלה התמקד בנושאים דומים שמטרידים את ChatGPT לגבי האופן שבו למודלים של שפות בינה מלאכותית יש הטיה מבנית נגד נשים ואנשים המשתייכים למיעוטים אתניים.

סיקרנו לראשונה את OpenAI לפני כשלוש שנים לאחר מכן מיקרוסופט השקיעה מיליארד דולר בארגון. כחלק מההסכם הרב-שנתי שהושג, שתי החברות יעבדו יחד כדי להביא טכנולוגיות מחשוב-על ו-OpenAI תפעיל את שירותיה אך ורק בענן של מיקרוסופט.

באמצעות השותפות, שתי החברות יאיץ פריצות דרך בתחום הבינה המלאכותית ויניעו את המאמצים של OpenAI ליצור בינה כללית מלאכותית (AGI). השיפורים שיתקבלו לפלטפורמת Azure יסייעו גם למפתחים לבנות את הדור הבא של יישומי AI. עם השותפות, מיקרוסופט ו-OpenAI יבנו במשותף טכנולוגיות מחשוב-על חדשות של Azure AI.

כשנשאל לאחרונה על ChatGPT והאם מיקרוסופט ראתה בטכנולוגיית ChatGPT כניסיונית או אסטרטגית, הנשיא שלה בראד סמית אמר לרויטרס שבינה מלאכותית התקדמה מהר יותר ממה שרבים חזו.

"אנחנו הולכים לראות התקדמות ב-2023 שאנשים לפני שנתיים היו מצפים לה ב-2033. זה יהיה חשוב ביותר לא רק לעתיד של מיקרוסופט, אלא לעתיד של כולם", אמר בראיון השבוע.

OpenAI נוסדה בסוף 2015 על ידי אילון מאסק וסם אלטמן כסטארט-אפ למטרות רווח המבצע מחקר בבינה מלאכותית (AI) במטרה לקדם ולפתח בינה מלאכותית ידידותית באופן שיועיל לאנושות כולה. OpenIA אמרה כי היא שואפת "לשתף פעולה באופן חופשי" עם מוסדות וחוקרים אחרים על ידי הפיכת הפטנטים והמחקרים שלה פתוחים לציבור. שני המייסדים מונעים בחלקם מחששות לגבי סיכון קיומי מבינה כללית מלאכותית.

בסך הכל, אנו מאמינים שאלטמן התמודד היטב עם הביקורת על הטיית ChatGPT. העובדה שהוא הודה בהטיית האלגוריתם של ChatGPT היא צעד בכיוון הנכון.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• מקור: https://techstartups.com/2023/02/02/openai-co-founder-sam-altman-confirms-chatgpt-has-shortcomings-around-bias/