OpenAI פרסמה כלי מקוון חינמי שנועד לחזות אם קטע טקסט נוצר על ידי AI או נכתב על ידי אדם.
התוכנה המכונה "AI Text Classifier", מופעלת על ידי מודל שפה ומדרגת את הסבירות שגוש טקסט נוצר על ידי מודל AI בסולם של חמש נקודות שעובר מ"מאוד לא סביר" ל"לא ברור" ל"סביר ." ניסינו את זה בכמה מהמאמרים שלנו מלפני עשור או משהו כזה, וייתכן שכמה נשרים חוששים לגלות שהעותק שלהם דורג "לא ברור אם הוא נוצר בינה מלאכותית".
הכלי, שנחשף ביום שלישי, הופיע לראשונה חודשים לאחר הסטארט-אפ הושק ChatGPT, צ'אט בוט שיוצר אוטומטית טקסט כאשר הוא מקבל הוראה, כגון מענה על שאלה, ספר בדיחה או כתיבה של שיר. למעשה, OpenAI עזר לתדלק את העלייה בבוטים של זרימת פראטלים וכעת מציעה כלי חצי מושקע לזיהוי סוג זה של דברים.
בתי ספר ואוניברסיטאות בארה"ב, צרפת והודו, לפחות, עשו מאז אסר תלמידים מגישה ל-ChatGPT באמצעות הרשתות שלהם או מהגשת מאמרים שנוצרו על ידי התוכנה.
המסווג לפעמים בטוח מאוד בתחזית שגויה
מומחים גם חוששים שמודלים של יצירת טקסט יכולים לשמש כדי לפלוט טונות של מידע שגוי, מיילים דיוגים, המון שטויות כדי להציף את האינטרנט. כַּמָה ארגונים ומדעני מחשבים החלו אפוא לעבוד על כלי סיווג משלהם כדי לזהות תוכן שנוצר בינה מלאכותית.
סיווג טקסט AI של OpenAI אינו מושלם. "השימוש המיועד שלנו למסווג טקסט בינה מלאכותית הוא לטפח שיחה על ההבחנה בין תוכן שנכתב על ידי אדם לתוכן שנוצר על ידי בינה מלאכותית", המעבדה של מיקרוסופט אמר.
"התוצאות עשויות לעזור, אבל לא צריכות להיות הראיה היחידה, כאשר מחליטים אם מסמך נוצר עם AI", הוסיף הארגון. "המודל מאומן על טקסט שנכתב על ידי אדם ממגוון מקורות, שאולי אינו מייצג כל מיני טקסטים שנכתבו על ידי אדם."
AI Text Classifier נועד לזהות טקסט שנעשה במכונה ממקורות שונים, לא רק ChatGPT המוגזם שלו. הוא הוכשר הן על טקסט שנכתב בבינה מלאכותית מ-34 מודלים שנבנו על ידי חמישה ארגונים, והן על טקסט בכתב אנושי שנגרד מהאינטרנט ונלקח ממערך נתונים פנימי של החברה.
הכלי דורש דוגמאות טקסט של 1,000 תווים, ואינו עובד טוב עבור שפות אחרות מלבד אנגלית. ראש המערך של OpenAI, יאן לייק אמר לי Axios תחזיותיה יכולות לייצר חיוביות שגויות או שליליות שגויות.
הסיווג אפילו לא יהיה כל כך שימושי עבור מורים שמחפשים להעריך אם תלמיד הגיש מטלה שנוצרה על ידי תוכנה כמו ChatGPT. סיווג הטקסט של הבינה המלאכותית אינו רגיש מספיק כדי לדעת אילו משפטים או קטעים עשויים להיות פרי יצירת הבינה המלאכותית, כך שכל טקסט שמופק על ידי מחשב ומשופץ על ידי אדם עלול להתחמק מזיהוי.
"אנו מזהירים כי המודל לא הוערך בקפידה על רבים מהיעדים העקרוניים הצפויים - כולל מאמרים של סטודנטים, מסעות פרסום אוטומטיים של דיסאינפורמציה או תמלול צ'אט. ואכן, ידוע שמסווגים המבוססים על רשתות עצביות מכוילות בצורה גרועה מחוץ לנתוני האימון שלהם. עבור קלטות השונות מאוד מטקסט בסט האימונים שלנו, המסווג לפעמים בטוח מאוד בתחזית שגויה", הזהירה המעבדה.
OpenAI גם כן לפי הדיווחים בחינת גישות אחרות לאיתור טקסט שנוצר בינה מלאכותית כולל טכניקת סימון מים שעשויה להיות מובנית במוצרים העתידיים שלה.
הקופה ביקשה מ-OpenAI הערה נוספת, רצוי שאינה נוצרת בינה מלאכותית. ®
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
- מקור: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- אודות
- גישה
- הוסיף
- לאחר
- AI
- תעשיות
- בתוך
- ו
- גישות
- מאמרים
- אוטומטי
- באופן אוטומטי
- אקסיו
- מבוסס
- בֵּין
- בוטים
- נבנה
- קמפיינים
- בזהירות
- תווים
- chatbot
- ChatGPT
- הערה
- חברה
- המחשב
- בטוח
- תוכן
- שיחה
- יכול
- נתונים
- לראשונה
- עָשׂוֹר
- מחליטים
- מעוצב
- איתור
- אחר
- מֵידָע מַטעֶה
- מסמך
- השפעה
- מיילים
- אנגלית
- מספיק
- Ether (ETH)
- העריך
- אֲפִילוּ
- עדות
- צפוי
- היכרות
- מאוד
- פחד
- פחדים
- לטפח
- צרפת
- חופשי
- החל מ-
- לתדלק
- נוסף
- עתיד
- נוצר
- מייצר
- Goes
- ראש
- לעזור
- עזר
- HTTPS
- בן אנוש
- in
- כולל
- הודו
- פנימי
- אינטרנט
- IT
- יאן
- סוג
- ידוע
- מעבדה
- שפה
- שפות
- לִלמוֹד
- סביר
- הסתכלות
- רב
- מידע שגוי
- מודל
- מודלים
- חודשים
- רשתות
- עצביים
- רשתות עצביות
- המיוחדות שלנו
- באינטרנט
- OpenAI
- ארגון
- ארגונים
- אחר
- בחוץ
- שֶׁלוֹ
- דיוג
- לְחַבֵּר
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- מופעל
- לחזות
- נבואה
- התחזיות
- עקרון
- לייצר
- מיוצר
- מוצרים
- שאלה
- תעריפים
- שוחרר
- נציג
- דורש
- תוצאות
- לעלות
- סולם
- מדענים
- רגיש
- סט
- כמה
- צריך
- since
- So
- תוכנה
- כמה
- מקורות
- החל
- סטארט - אפ
- סטודנט
- סטודנטים
- הוגש
- כזה
- מטרות
- מורים
- השמיים
- שֶׁלָהֶם
- לכן
- ל
- טון
- כלי
- כלים
- מְאוּמָן
- הדרכה
- יום שלישי
- אוניברסיטאות
- חשף
- us
- להשתמש
- מגוון
- שונים
- אם
- אשר
- מי
- יצטרך
- תיק עבודות
- כתוב
- טעות
- זפירנט