בחינת הסיכונים והחלופות של ChatGPT: סלילת נתיב לבינה מלאכותית מהימנה

אתה מכין שייק להנאת חבריך. כבר מעורבב עם מגוון פירות ויוגורט, חברך רוחיר מגיע עם תפוח בשל ונותן לך אותו להשלמת יצירת המופת המרעננת שלך. כעת, כאשר הושלם, אתה כמעט עדיין יכול להריח את רמז התפוח בזמן שהמשקה נמזג. לפני הלגימה הראשונה שלך, רוחיר אומר, "שיניתי את דעתי, אני צריך לעזוב וארצה את התפוח שלי בחזרה." אתה עונה, "אה, סלח לי אבל זה פשוט לא אפשרי." נחזור לסיפור הזה בעוד דקה ונסביר איך הוא קשור אליו ChatGPT ובינה מלאכותית מהימנה.

בתור העולם של בינה מלאכותית (AI) מתפתח, כלים חדשים כמו של OpenAI ChatGPT זכו לתשומת לב בזכות יכולות השיחה שלהם. עם זאת, אני גם מבין את הקריטיות שבהערכת הסיכונים הטמונים לפני תחילת האימוץ הישיר שלו בתוך הארגונים שלנו. בדיון זה, אני בוחן את הסיכונים והאתגרים הקשורים ל-ChatGPT בהקשר ארגוני, מה שמחייב גישה זהירה ליישום שלו. בנוסף, אדגיש את המשמעות של אימוץ IBM ווטסון להבטחת AI אמין פתרונות. וכאשר יש לך ספק, אני ממליץ לך להשתמש באותו השכל הישר שתמיד השתמשת בו בעת שימוש בשירותי אינטרנט חדשים.

אבולוציה של כלי AI

ChatGPT רותם את הכוח העצום של GPT-3 ו GPT-4, השייך לא כיתה חדשה של דגמי שפה גדולים "ענקיים" ופופולריים ביותר המשמשים ביישומי AI שונים. עם ChatGPT, משתמשים יכולים לשאול שאלות, ליצור טקסט, לנסח מיילים, לדון בקוד בשפות תכנות שונות, לתרגם שפה טבעית לקוד ועוד. הוא בולט כצ'אט בוט לשיחה באיכות גבוהה שמטרתו לספק תגובות קוהרנטיות ומודעות להקשר.

ChatGPT הוא כלי מצוין לחקר כתיבה יצירתית, יצירת רעיונות ואינטראקציה עם AI. זה בחינם לכולם לשימוש, עם גרסה מתקדמת יותר זמינה צ'אט GPT Plus מנויים. היכולת של הצ'אטבוט לזכור שיחות קודמות מוסיפה לחוויה האינטראקטיבית והמרתקת שלו.  

בעוד ש-ChatGPT זכה לתשומת לב ופופולריות משמעותית, הוא מתמודד עם תחרות מצד צ'אטבוטים אחרים המונעים בינה מלאכותית ו עיבוד שפה טבעית מערכות (NLP). גוגל, למשל, פיתחה מְשׁוֹרֵר, צ'אטבוט AI שלו, המופעל על ידי מנוע שפה משלו הנקרא PALM 2. באופן דומה, Meta הוציאה לאחרונה את המרשים שלה דגם LLaMA2. ככל שתחום הצ'טבוטים של AI ממשיך להתפתח, ללא ספק תהיה תחרות מוגברת והופעת שחקנים חדשים. חיוני להתעדכן בהתקדמות בתחום זה כדי לחקור את הפתרונות הטובים ביותר לצרכי הארגון.

למה לא להשתמש ב-ChatGPT ישירות בארגון?

שימוש ישיר ב ChatGPT בארגון מציג סיכונים ואתגרים. אלה כוללים אבטחה וזליגת נתונים, חששות סודיות ואחריות, מורכבות קניין רוחני, עמידה ברישיונות קוד פתוח, מגבלות על פיתוח בינה מלאכותית, ופרטיות לא בטוחה ועמידה בחוקים הבינלאומיים. כאן, אני חוקר את הסיכונים הללו ומשתף דוגמאות הממחישות כיצד הסיכונים הללו יכולים להתבטא בפעילות הארגונית היומיומית שלך.

אתחיל בבחינת פתרונות חלופיים שמטרתם להפחית את הסיכונים הקשורים בשימוש ישיר ב-ChatGPT, כולל IBM watsonx, שאני כן ממליץ לשימוש בארגונים, מכיוון שהוא נותן מענה לבעלות על נתונים ודאגות לפרטיות באמצעות איסוף וממשל קפדניים. אני אסיים את השיחה הזו בכך שאחזיר אותך לסיפור השייק, אני מבטיח, אבל כשאני מזכיר את "הנתונים שלך" למטה, אתה מוזמן להחליף את הביטוי ב"התפוח שלך".

לפני בחינת פתרונות חלופיים, חיוני לחברות להיות מודעים לסיכונים ולאתגרים הפוטנציאליים הכרוכים בשימוש ישיר ב-ChatGPT. כזכור, ההיסטוריה של האינטרנט הראתה את הופעתם והתפתחותם של שירותים חדשים (למשל, חיפוש בגוגל, פלטפורמות מדיה חברתית וכו'), מה שמדגיש את החשיבות של פרטיות הנתונים והבעלות בארגון. לאור זאת, הנה גורמים מרכזיים שיש לקחת בחשבון:

אבטחה ודליפת נתונים

אם מידע רגיש של צד שלישי או חברה פנימי מוזן ל-ChatGPT, הוא הופך לחלק ממודל הנתונים של הצ'אטבוט ועשוי להיות משותף עם אחרים ששואלים שאלות רלוונטיות. זה עלול להוביל לדליפת נתונים ולהפר את מדיניות האבטחה של הארגון.

דוגמה: אין לשתף עם ChatGPT תוכניות למוצר חדש שהצוות שלך עוזר בהשקת לקוח, כולל מפרטים סודיים ואסטרטגיות שיווקיות כדי למנוע את הסיכון של דליפת נתונים והפרות אבטחה אפשריות.

סודיות ופרטיות

בדומה לנקודה לעיל, שיתוף מידע סודי של לקוחות או שותפים עלול להפר הסכמים חוזיים ודרישות משפטיות להגנה על מידע כזה. אם האבטחה של ChatGPT נפגעת, תוכן סודי עלול להיות דלף, שעלול להשפיע על המוניטין של הארגון ולחשוף אותו לאחריות.

דוגמה: נניח שארגון שירותי בריאות משתמש ב-ChatGPT כדי לסייע במתן מענה לפניות מטופלים. אם מידע סודי של מטופל, כגון רשומות רפואיות או פרטי בריאות אישיים, משותף עם ChatGPT, זה עלול להפר חובות משפטיות וזכויות פרטיות המטופל המוגנות על ידי חוקים כמו HIPAA (Health Insurance Portability and Accountability Act) בארצות הברית.

בעיות קניין רוחני

בעלות על הקוד או הטקסט שנוצר על ידי ChatGPT יכולה להיות מורכבת. תנאי השירות קובעים כי הפלט שייך לספק הקלט, אך בעיות עלולות להתעורר כאשר הפלט כולל נתונים מוגנים על פי חוק שמקורם בקלטים אחרים. חששות בזכויות יוצרים עשוי להתעורר גם אם נעשה שימוש ב-ChatGPT להפקת חומר כתוב המבוסס על רכוש המוגן בזכויות יוצרים.

דוגמה: הפקת חומר כתוב למטרות שיווק והפלט כולל תוכן המוגן בזכויות יוצרים ממקורות חיצוניים ללא ייחוס או רשות נאותים, זה עלול להפר את זכויות הקניין הרוחני של יוצרי התוכן המקוריים. הדבר עלול לגרום לתוצאות משפטיות ולפגיעה במוניטין של החברה.

עמידה ברישיונות קוד פתוח

אם ChatGPT משתמש בספריות קוד פתוח ומשלב את הקוד הזה במוצרים, זה עלול להפר רישיונות של תוכנת קוד פתוח (OSS) (למשל, GPL), מה שמוביל לסיבוכים משפטיים עבור הארגון.

דוגמה: אם חברה משתמשת ב-ChatGPT כדי ליצור קוד עבור מוצר תוכנה ומקור נתוני ההדרכה המשמשים לאימון GPT אינו ברור, קיים סיכון להפרה פוטנציאלית של התנאים של רישיונות קוד פתוח הקשורים לקוד זה. זה יכול להוביל לסיבוכים משפטיים, לרבות תביעות של הפרת רישיון וצעדים משפטיים אפשריים מצד קהילת הקוד הפתוח.

מגבלות על פיתוח בינה מלאכותית

תנאי השירות של ChatGPT מציינים שלא ניתן להשתמש בו בפיתוח מערכות AI אחרות. שימוש ב-ChatGPT בצורה זו עשוי להפריע לתוכניות פיתוח עתידיות של AI אם החברה תפעל במרחב זה.

דוגמה: חברה המתמחה בטכנולוגיית זיהוי קול מתכננת לשפר את המערכת הקיימת שלה על ידי שילוב יכולות עיבוד השפה הטבעית של ChatGPT. עם זאת, תנאי השירות של ChatGPT קובעים במפורש שלא ניתן להשתמש בו בפיתוח מערכות AI אחרות.

אמינות משופרת עם IBM watsonx

בהתייחס לסיפור השייק שלנו, ChatGPT הציבורי משתמש בנתונים המיידיים שלך כדי לשפר את הרשת העצבית שלו, כמו האופן שבו התפוח מוסיף טעם לשייק. ברגע שהנתונים שלך נכנסים ל-ChatGPT, כמו התפוח המשולב, אין לך שליטה או ידע על אופן השימוש בהם. לפיכך, יש להיות בטוחים שיש להם את מלוא הזכויות לכלול את התפוח שלהם, ושהוא אינו מכיל נתונים רגישים, כביכול.

כדי להתמודד עם החששות הללו, IBM watsonx מציעה נתונים ומודלים מאוחדים ושקופים, המספקים שליטה וביטחון רב יותר ביצירה ובשימוש בשייק שלך. במילים פשוטות, אם רוחיר יבקש את התפוח שלו בחזרה, ווטסון יוכל לכבד את בקשתו. הנה לך…. האנלוגיה והסיפור שלמים.

IBM watsonx מציגה שלוש תכונות עיקריות - watsonx.data, watsonx.ai, ו watsonx.governance - שמשתפים פעולה כדי להקים AI מהימן באופן שעדיין לא קיים במודלים של OpenAI. תכונות אלה אוצרות ומתוויות נתונים ומודלים של AI, ומבטיחות שקיפות בפרטי מקור ובעלות. הם גם שולטים במודלים ובנתונים, ומתייחסים לחששות מתמשכים של סחף והטיה. גישה קפדנית זו מפחיתה למעשה בעלות על נתונים וחששות לפרטיות הנדונים במאמר זה.

IBM שיתפה פעולה עם פנים מחבקות, חברת קוד פתוח, ליצור מערכת אקולוגית של מודלים. שתי החברות ממנפות את תכונות ה-watsonx כדי לאצור ולאמץ מודלים על סמך הפונקציונליות והאמינות שלהם.

מתקדמים עם AI

השימוש הישיר בצ'אטבוטים של בינה מלאכותית כמו ChatGPT בתוך ארגון מציג סיכונים הקשורים לאבטחה, דליפת נתונים, סודיות, אחריות, קניין רוחני, תאימות, מגבלות על פיתוח בינה מלאכותית ופרטיות. לסיכונים אלו עלולות להיות השלכות מזיקות לארגונים, לרבות פגיעה במוניטין וסיבוכים משפטיים יקרים.

כדי לצמצם סיכונים אלה ולבסס AI מהימן, IBM watsonx מופיעה כפתרון מומלץ. הוא מציע נתונים ומודלים של בינה מלאכותית שנאספו ומתויגים, המבטיחים שקיפות בבעלות ובמקור. הוא מטפל בחששות הקשורים להטיה וסחף, ומספק שכבה נוספת של אמון. IBM watsonx מוצאת איזון בין חדשנות ושימוש בינה מלאכותית אחראית. יתרה מכך, שיתוף הפעולה בין IBM ו-Huging Face מחזק את האקוסיסטם של הדגמים.

בעוד ש-watsonx מציעה אמון וקפדנות משופרים, דגמים מעטים יכולים כיום להתאים למגוון הרחב של שימוש לשימוש כללי שנראה עם ChatGPT ומשפחת הדגמים של GPT. תחום דגמי הבינה המלאכותית ממשיך להתפתח, וניתן לצפות לשיפורים מתמשכים. כדי להבטיח תוצאות מיטביות, חיוני להבין כיצד מודלים מדורגים ואומנים. ידע זה מאפשר החלטות מושכלות ומאפשר לארגונים לבחור מודלים המתאימים בצורה הטובה ביותר לצרכיהם ולתקני האיכות שלהם.

על ידי אימוץ ווטסונקס, ארגונים יכולים לאמץ את הכוח של AI תוך שמירה על שליטה על הנתונים שלהם והבטחת עמידה בסטנדרטים אתיים ומשפטיים. הם יכולים להגן על הנתונים שלהם, להגן על הקניין הרוחני שלהם, ולטפח אמון עם מחזיקי עניין, והכל תוך תועלת ממודלים שנאספו ושקיפות מוגברת. כאשר ארגונים מנווטים את תחום הבינה המלאכותית, חיוני להמשיך בזהירות, לבחון פתרונות ולקבוע עדיפות בינה מלאכותית מהימנה.

עקוב אחר האמנות של A.I. לפודקאסט עסקי

^{מעת לעת, IBM מזמינה מובילי מחשבה בתעשייה לחלוק את דעותיהם ותובנותיהם על מגמות טכנולוגיות עדכניות. הדעות בפוסט זה בבלוג הן שלהם, ואינן משקפות בהכרח את הדעות או האסטרטגיות של IBM.}