מדוע ארגונים עוברים מ-OpenAI למודלים מכוונים בקוד פתוח - DATAVERSITY

מדוע ארגונים עוברים מ-OpenAI למודלים מכוונים בקוד פתוח - DATAVERSITY

חותמת זמן: 24 בינואר 2024 3:25
צומת המקור: 3081727

בנוף הבינה המלאכותית המתפתחת במהירות, OpenAI חוללה מהפכה בדרך שבה מפתחים בונים אבות טיפוס, יוצרים הדגמות ומשיגים תוצאות יוצאות דופן עם מודלים גדולים לשפה (LLMs). עם זאת, כאשר הגיע הזמן להכניס לייצור LLMs, ארגונים מתרחקים יותר ויותר מ-LLM מסחריים כמו OpenAI לטובת מודלים מכוונים של קוד פתוח. מה מניע את השינוי הזה ומדוע מפתחים מאמצים אותו?

המניעים העיקריים הם פשוטים: 1. יעילות ו-2. הימנעות מנעילת ספקים תוך שמירה על קניין רוחני הקשור הן לנתונים והן למודלים. דגמי קוד פתוח כמו Llama2 ומיסטראל תואמים כעת, ובמקרים מסוימים, אפילו עולים על LLM מסחריים בביצועים, תוך שהם מתהדרים בגודל קטן משמעותית. המעבר למודלים של קוד פתוח לא רק מבטיח חיסכון משמעותי בעלויות, אלא הוא גם מעניק למפתחים שליטה ופיקוח רב יותר על המודלים שלהם.

שמירה על קניין רוחני והימנעות מנעילת ספקים

עבור רוב הארגונים, LLMs מסחריים הם קופסה שחורה, מכיוון שהם אינם מצליחים לספק גישה לקוד המקור של המודל או את היכולת לייצא חפצי מודל. הסתמכות אך ורק על דגמי קופסה שחורה הנגישים דרך API אינה אידיאלית עוד ליישומים קריטיים למשימה ויישומים מסחריים. ארגונים חייבים לוודא בעלות על מודל ולהבדיל את המוצר שלהם מהמתחרים, תוך שמירה על ה-AI והקניין הרוחני של הנתונים. על פי סקר שנערך לאחרונה על ידי החברה שלי, שלושה רבעים מהמשיבים לא יהיו נוחים להשתמש ב-LLM מסחרי בייצור. משיבים אלה ציינו בעלות, פרטיות ועלות כדאגותיהם העיקריות.

הבטחת תאימות ופרטיות נשארת חשיבות עליונה, ומפתחים עומדים בפני האתגר של אימות שנתוני משתמש הקצה מוגנים מפני ישויות זדוניות כאשר הם מועברים למערכת קופסה שחורה. יתרה מכך, הסתמכות על פלטפורמות של צד שלישי מעוררת חששות לגבי חביון ושמירה על הסכמי רמת שירות ברמת ייצור עבור יישומים מסחריים (SLAs). לבסוף, מנהיגים עסקיים רואים יותר ויותר ב-AI כלבת ה-IP שלהם, והם רואים יותר ויותר מודלים מותאמים אישית עם נתונים קנייניים כמבדיל מרכזי שיבדל אותם מהמתחרים. במילים פשוטות, ארגונים כבר לא מרוצים מהרעיון להפקיד את הקניין הרוחני לצד שלישי ולהיות רק שכבה דקה על גבי ה-API של מישהו אחר.

מודלים מיוחדים: ביצועים ויעילות עלות

פעם שנחשבו לחסרי ביצועים, מודלים של קוד פתוח חוו שינוי מדהים באמצעות כוונון עדין, והם מתגלים כעת כמתמודדים רבי עוצמה. מודלים מכוונים של קוד פתוח פוגשים כעת, אם לא עולים על, מודלים מסחריים רמת הביצועים, תוך שמירה על טביעת רגל קטנה משמעותית. 

תוצאות מהניסויים האחרונים שלנו: LLMs מכוונים עדין וקטנים יותר ספציפיים למשימות עולות על חלופות של ספקים מסחריים.

זה מהווה הזדמנות ענקית, שכן ייצור LLMs מסחריים מסיביים גרמה לקשיים עבור ארגונים רבים בשל גודלם של LLMs והעלויות הנלוות. על ידי מינוף מודלים מכוונים עדינים, מפתחים יכולים להגיע לתוצאות מצוינות תוך התמודדות עם דגמים שקטנים בשניים עד שלושה סדרי גודל מעמיתיהם המסחריים, ולכן זולים ומהירים משמעותית. 

שקול את המקרה של ארגון המשתמש ב-LLM כדי לעבד מאות אלפי הודעות מעובדים בקו החזית. הארגון יכול להפחית את העלויות על ידי שימוש במודל מכוונן ולא ב-LLM בקנה מידה גדול. היכולת להשיג תוצאות יוצאות דופן בשבריר מהעלות הופכת כוונון עדין לאופציה אטרקטיבית עבור ארגונים המבקשים לייעל את יישומי הבינה המלאכותית שלהם.

סיכום

המעבר מ-OpenAI למודלים של קוד פתוח מייצג את השלב הבא עבור חברות המבקשות לשמור על בעלות על המידע והמודלים שלהן, להבטיח פְּרָטִיוּת, והימנע מנעילת ספקים. מודלים של קוד פתוח, ככל שהם ממשיכים להתפתח, מציעים אלטרנטיבה אטרקטיבית למפתחים השואפים להציג AI בסביבות ייצור. בעידן של AI מותאם אישית, דגמים מיוחדים לא רק מספקים ביצועים אופטימליים אלא גם מניעים הפחתת עלויות ניכרת, מה שמצביע על עתיד מזהיר.

עם זאת, נותרו אתגרים במונחים של פישוט וניהול תהליך הכוונון העדין, הקמת תשתית ייצור איתנה והבטחת האיכות, האמינות, הבטיחות והאתיקה של יישומי AI. כדי להתמודד עם אתגרים אלו, פלטפורמות חדשניות מציעות פתרונות הצהרתיים המסייעים לארגונים בבניית יישומי AI מותאמים אישית. על ידי אספקת יכולות כוונון עדין קלות לשימוש ותשתית מוכנה לייצור, פלטפורמות אלו מעצימות ארגונים לנצל את הפוטנציאל האדיר של מודלים בקוד פתוח תוך שמירה על השליטה המרבית והשגת ביצועים מיטביים.

בול זמן:

עוד מ קושי