בני אדם נחשבים לחוליה החלשה ביותר בארגון בכל הנוגע לביטחון. בצדק, כמו כלפי מעלה של 95% מאירועי אבטחת סייבר נגרמים מטעות אנוש. בני אדם הם הפכפכים, ניתנים לטעייה ובלתי ניתנים לחיזוי, מה שהופך אותם למטרות קלות עבור פושעי סייבר המחפשים להיכנס למערכות של ארגונים.
זה הופך את ההסתמכות שלנו על מכונות להרבה יותר חשובה. עד לנקודה זו, הצלחנו לסמוך על מכונות שיפעלו עם קוד כאמת. למרות שניתן להתפשר עליהם באמצעות נקודות תורפה בקוד או דרך הפגמים החברתיים של המפעילים האנושיים שלהם, הבעיות נתקלות בדרך כלל בפתרון ברור.
עם זאת, עם עלייתו של AI ייצור (GenAI) ו מודלים גדולים לשפה (LLMs), ארגונים מתמודדים כעת עם התקפות הנדסה חברתית שמרמות את הבינה המלאכותית לעשות דברים שהוא לא נועד לעשות. ככל שאנו מורידים יותר ל-AI, יהיה מעניין לראות את דפוסי ההתקפה החדשים הללו מתממשים.
לנוכח הדילמה הזו, זה שוב תלוי בבני האדם לנווט בנוף האבטחה המורכב והמתפתח הזה של AI. זה קורא ל-CISOs לתקשר בצורה ברורה את היתרונות כמו גם את החסרונות של AI ולהכיר ברשימה הארוכה של שיקולי אבטחה הקשורים למוצרים וליכולות המונעים ב-AI.
יישום מהיר של AI גנרטיבי מביא אתגרי אבטחת סייבר חדשים
ראשית, בעיה נפוצה בכל הנוגע ל-GenAI ו-LLMs היא הסתמכות יתרה רחבה על תוכן שנוצר בינה מלאכותית. אמון בתוכן שנוצר בינה מלאכותית מבלי לאמת או לבדוק מידע מטעה או שגוי ללא קלט או פיקוח אנושי יכול להוביל להפצה של נתונים שגויים המודיעים על קבלת החלטות לקויה והפחתת חשיבה ביקורתית. ידוע כי LLMs הוזים, כך שחלק מהדיסאינפורמציה עשויה אפילו לא לנבוע מכוונת זדון.
באותו אופן, כמות הקוד הלא מאובטח שמוצגת בעקבות האבולוציה של GenAI תהפוך גם לאתגר משמעותי עבור CISOs, אם לא צפויה מראש. ידוע שמנועי AI כותבים קוד באגי עם פרצות אבטחה. ללא פיקוח אנושי מתאים, GenAI מעצימה אנשים ללא היסודות הטכניים המתאימים למשלוח קוד. זה מוביל לסיכון אבטחה מוגבר לאורך מחזור החיים של פיתוח התוכנה עבור ארגונים המשתמשים בכלים אלה בצורה לא נכונה.
דליפת נתונים היא בעיה רווחת נוספת. במקרים מסוימים, תוקפים יכולים להשתמש בהזרקה מהירה כדי לחלץ מידע רגיש שמודל הבינה המלאכותית למד ממשתמש אחר. פעמים רבות זה יכול להיות לא מזיק, אבל שימוש זדוני בהחלט לא מונע. שחקנים גרועים יכולים לחקור בכוונה את כלי הבינה המלאכותית בעזרת הנחיות מעוצבות בקפידה, במטרה לחלץ מידע רגיש שהכלי שנן, מה שיוביל לדליפה של מידע רגיש או סודי.
בינה מלאכותית עשויה להגדיל כמה פערי אבטחת סייבר אך יש לה פוטנציאל משמעותי לסגור אחרים
לבסוף, מובן שההפצה של GenAI ו-LLM תגרום לדחייה של חלק מהפחתת פני השטח של התעשייה שלנו מכמה סיבות. ראשית, היכולת ליצור קוד עם GenAI מורידה את הרף של מי יכול להיות מהנדס תוכנה, וכתוצאה מכך קוד חלש יותר ותקני אבטחה חלשים עוד יותר. שנית, GenAI דורש כמויות עצומות של נתונים, מה שאומר שההיקף וההשפעה של פרצות נתונים יגדלו באופן אקספוננציאלי. שלישית, כמו בכל טכנולוגיה מתפתחת, מפתחים עשויים שלא להיות מודעים לחלוטין לדרכים שבהן ניתן לנצל את היישום שלהם או לנצל לרעה.
עם זאת, חיוני לאמץ פרספקטיבה מאוזנת. בעוד שההקלה של Generation AI ביצירת קוד עשויה לעורר חששות, היא גם מביאה תכונות חיוביות לנוף אבטחת הסייבר. לדוגמה, הוא יכול לזהות ביעילות פרצות אבטחה כגון Cross-Site Scripting (XSS) או הזרקת SQL. הטבע הכפול הזה מדגיש את חשיבותה של הבנה ניואנסית. במקום לראות בינה מלאכותית כמזיקה בלבד, היא מדגישה את הקשר המשלים בין בינה מלאכותית ומעורבות אנושית באבטחת סייבר. CISOs חייבים להבין את הסיכונים הנלווים של GenAI ו-LLMs תוך בחינת גישות ממוקדות בבני אדם כדי ליישם GenAI ולבצר את הארגונים שלהם.
בני אדם קולטים את מה שה-AI משאיר מאחור
המשימה של CISO אינה רק לפענח את המורכבות של GenAI. עליהם לסלול דרך קדימה עבור הארגון שלהם ולהדגים למנהיגות כיצד הארגון שלהם יכול להמשיך לשגשג בעולם הנשלט על ידי GenAI.
בעוד שמשתמשי קצה אחראים לרוב לפגיעויות אבטחה רבות, אין הגנה טובה יותר לפשעי סייבר מאשר אדם מאומן היטב ובעל חשיבה אבטחה. לא משנה אילו כלי זיהוי איומים יש לארגון, פשוט אין מקום לאדם שמאחורי המסך בכל הנוגע לבדיקת תוכנה.
ארגונים יכולים לעלות על פושעי סייבר באמצעות הכוח של פריצה אתית. בעוד שחלקם מהססים להזמין האקרים לרשת שלהם בגלל תפיסות שגויות מיושנות, מומחי אבטחת סייבר שומרי חוק הם השידוך הטוב ביותר להתמודד עם שחקנים גרועים - מכיוון שבניגוד לבינה מלאכותית, הם יכולים להיכנס לראשיהם של תוקפי הסייבר.
למעשה, האקרים כבר משלימים כלים אוטומטיים במאבק נגד פושעי סייבר, עם % 92 של האקרים אתיים אומרים שהם יכולים למצוא נקודות תורפה שסורקים לא יכולים. על ידי הסרת מסך הפריצה לתמיד, מנהיגים עסקיים יכולים לאמץ פריצה אתית ותמיכה אנושית כדי להגיע לאיזון יעיל יותר בין AI ומומחים אנושיים במלחמה בפשעי סייבר מודרניים. האחרון שלנו דוח אבטחה מבוסס האקרים מדגיש זאת, כאשר 91% מהלקוחות שלנו אמרו שהאקרים מספקים דוחות פגיעות משפיעים ובעלי ערך רב יותר מאשר בינה מלאכותית או פתרונות סריקה. ככל שה-AI ממשיך לעצב את עתידנו, קהילת ההאקרים האתיים תישאר מחויבת להבטיח שילוב בטוח שלה.
השילוב של אוטומציה עם רשת של האקרים מיומנים במיוחד פירושו שחברות יכולות לאתר פגמים קריטיים באפליקציה לפני שהם מנוצלים. כאשר ארגונים משלבים ביעילות כלי אבטחה אוטומטיים עם פריצה אתית, הם סוגרים פערים במשטח ההתקפה הדיגיטלי המתפתח כל הזמן.
הסיבה לכך היא שבני אדם ובינה מלאכותית יכולים לעבוד יחד כדי לשפר את הפרודוקטיביות של צוות האבטחה:
- סיור משטח התקפה: ארגונים מודרניים יכולים להצמיח תשתית IT נרחבת ומורכבת הכוללת מגוון של חומרה ותוכנה מורשית ובלתי מאושרת. פיתוח אינדקס כולל של נכסי IT כמו תוכנה וחומרה חשוב לצמצום פגיעויות, ייעול ניהול התיקונים וסיוע בעמידה במנדטים של התעשייה. זה גם עוזר לזהות ולנתח את הנקודות שבאמצעותן תוקף עלול להתמקד בארגון.
- הערכות מתמשכות: מעבר לאבטחה נקודתית, ארגונים יכולים לשלב את כושר ההמצאה של מומחי אבטחה אנושיים עם תובנות משטח התקפות בזמן אמת כדי להשיג בדיקות מתמשכות של הנוף הדיגיטלי. בדיקות חדירה מתמשכות מאפשרות לצוותי IT לצפות בתוצאות של סימולציות קבועות המציגות כיצד תיראה פריצה בסביבה הנוכחית ונקודות תורפה פוטנציאליות שבהן צוותים יכולים להסתגל בזמן אמת.
- שיפורים בתהליך: האקרים אנושיים מהימנים יכולים למסור לצוותי אבטחה מידע רב ערך על פגיעויות ונכסים כדי לסייע בשיפורי תהליכים.
סיכום
ככל שה-AI הגנרטיבי ממשיך להתפתח בקצב כה מהיר, CISOs חייבים למנף את ההבנה שלהם לגבי האופן שבו בני אדם יכולים לשתף פעולה כדי לשפר את אבטחת הבינה המלאכותית ולזכות בתמיכה מהדירקטוריון וצוות ההנהגה שלהם. כתוצאה מכך, לארגונים יכולים להיות כוח אדם ומשאבים מספקים להתמודד עם אתגרים אלה ביעילות. יצירת האיזון הנכון בין הטמעת בינה מלאכותית מהירה לאבטחה מקיפה באמצעות שיתוף פעולה עם האקרים אתיים מחזקת את הטיעון להשקעה בפתרונות מתאימים המונעים בינה מלאכותית.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://www.dataversity.net/balancing-act-the-value-of-human-expertise-in-the-age-of-generative-ai/
- :יש ל
- :הוא
- :לֹא
- :איפה
- $ למעלה
- 1
- a
- יכולת
- יכול
- אודות
- התעלל
- להשיג
- לפעול
- שחקנים
- להסתגל
- לְאַמֵץ
- שוב
- נגד
- גיל
- AI
- יישום AI
- מונע AI
- סיוע
- מכוון
- כְּבָר
- גם
- כמויות
- an
- לנתח
- ו
- אחר
- צפוי
- כל
- בקשה
- גישות
- מתאים
- ARE
- טענה
- מלאכותי
- בינה מלאכותית
- AS
- הערכות
- נכסים
- המשויך
- At
- לתקוף
- המתקפות
- תכונות
- מורשה
- אוטומטי
- אוטומציה
- מודע
- בחזרה
- רע
- איזון
- מאוזן
- איזון
- בָּר
- BE
- כי
- להיות
- היה
- לפני
- להתחיל
- מאחור
- להיות
- הטבות
- מוטב
- בֵּין
- מעבר
- להתמזג
- לוּחַ
- שניהם
- הפרה
- פרות
- מביא
- רחב
- עסקים
- מנהיגים עסקיים
- אבל
- by
- שיחות
- CAN
- יכול לקבל
- לא יכול
- יכולות
- מקרים
- גרם
- בהחלט
- לאתגר
- האתגרים
- בדיקה
- בבירור
- סְגוֹר
- קוד
- לשתף פעולה
- שיתוף פעולה
- שילוב
- לשלב
- מגיע
- מְחוּיָב
- Common
- להעביר
- קהילה
- חברות
- משלימה
- מורכב
- מורכבות
- הענות
- מַקִיף
- מכיל
- התפשר
- דאגות
- שיקולים
- נחשב
- קבוע
- תוכן
- להמשיך
- ממשיך
- רציף
- יכול
- מעוצב
- קריטי
- נוֹכְחִי
- לקוחות
- פשעי אינטרנט
- עברייני אינטרנט
- אבטחת סייבר
- נתונים
- הפרת נתונים
- קושי
- קבלת החלטות
- גופי בטחון
- להפגין
- איתור
- מזיק
- מפתחים
- מתפתח
- צעצועי התפתחות
- דיגיטלי
- מֵידָע מַטעֶה
- do
- עושה
- קל
- אפקטיבי
- יעילות
- לחבק
- מתעורר
- טכנולוגיה מתעוררת
- מדגיש
- מעצים
- מאפשר
- סוף
- מהנדס
- הנדסה
- מנועים
- להגביר את
- שיפורים
- הבטחתי
- מִפְעָל
- כניסה
- סביבה
- שגיאה
- חיוני
- אֶתִי
- אֲפִילוּ
- אבולוציה
- להתפתח
- מתפתח
- תערוכה
- מומחיות
- מומחים
- ומנוצל
- היכרות
- אקספוננציאלית
- נרחב
- תמצית
- פָּנִים
- מול
- עובדה
- מעטים
- להלחם
- לְחִימָה
- ראשון
- פגמים
- הבא
- בעד
- לְחַזֵק
- קדימה
- יסודות
- החל מ-
- לגמרי
- עתיד
- לְהַשִׂיג
- פערים
- גארנר
- Gen
- ליצור
- דור
- גנרטטיבית
- AI Generative
- לקבל
- טוב
- לתפוס
- הגדול ביותר
- לגדול
- האקר
- האקרים
- פריצה
- יד
- חומרה
- יש
- ראשי
- עוזר
- מהסס
- פסים
- מאוד
- איך
- HTTPS
- בן אנוש
- בני אדם
- לזהות
- if
- פְּגִיעָה
- בר - השפעה
- ליישם
- הפעלה
- חשיבות
- חשוב
- לשפר
- in
- תקריות
- להגדיל
- גדל
- מדד
- תעשייה
- התעשייה
- מידע
- מודיע
- תשתית
- שְׁנִינוּת
- קלט
- לא בטוח
- בתוך
- תובנות
- למשל
- השתלבות
- מוֹדִיעִין
- התכוון
- כוונה
- בכוונה
- מעניין
- אל תוך
- הציג
- השקעה
- להזמין
- מעורבות
- סוגיה
- IT
- שֶׁלָה
- רק
- ידוע
- נוף
- שפה
- עוֹפֶרֶת
- מנהיגים
- מנהיגות
- מוביל
- מוביל
- לדלוף
- למד
- תנופה
- מעגל החיים
- כמו
- קשר
- רשימה
- ארוך
- נראה
- הסתכלות
- מכונה
- עושה
- עשייה
- זדוני
- ניהול
- מנדטים
- רב
- להתאים
- דבר
- מאי..
- אומר
- נפגש
- בקפידה
- יכול
- תפיסות מוטעות
- מידע שגוי
- מַטעֶה
- מודל
- מודרני
- יותר
- הרבה
- צריך
- טבע
- נווט
- רשת
- חדש
- לא
- עַכשָׁיו
- of
- לעתים קרובות
- on
- פעם
- להפעיל
- מפעילי
- or
- ארגון
- ארגונים
- שלנו
- הַחוּצָה
- מֶחדָל
- שלום
- תיקון
- דפוסי
- לסלול
- חֲדִירָה
- אֲנָשִׁים
- אדם
- פרספקטיבה
- לבחור
- מקום
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- לְשַׂחֵק
- נקודה
- נקודות
- עני
- חיובי
- פוטנציאל
- כּוֹחַ
- נפוץ
- בדיקה
- בעיות
- תהליך
- פִּריוֹן
- מוצרים
- הנחיות
- התפשטות
- תָקִין
- לספק
- מושך
- כמות
- להעלות
- מהיר
- במקום
- ממשי
- זמן אמת
- סיבות
- לאחרונה
- להכיר
- מופחת
- הפחתה
- הפחתה
- קשר
- הסתמכות
- דוחות לדוגמא
- דורש
- משאבים
- אחראי
- תוצאה
- וכתוצאה מכך
- תוצאות
- תקין
- לעלות
- הסיכון
- סיכונים
- בטוח
- אותו
- אמר
- סולם
- סריקה
- מסך
- שְׁנִיָה
- אבטחה
- כלי אבטחה
- לִרְאוֹת
- רגיש
- צוּרָה
- ספינה
- חסרונות
- משמעותי
- בפשטות
- מיומן
- So
- חֶברָתִי
- הנדסה חברתית
- תוכנה
- פיתוח תוכנה
- מהנדס תוכנה
- אך ורק
- פִּתָרוֹן
- פתרונות
- כמה
- נקודות
- SQL
- SQL Injection
- איוש
- תקנים
- להשאר
- התייעלות
- מתחזק
- להכות
- כזה
- תמיכה
- משטח
- SWIFT
- מערכות
- לְהִתְמוֹדֵד
- לקחת
- יעד
- מטרות
- נבחרת
- צוותי
- טכני
- טכנולוגיה
- בדיקות
- מֵאֲשֶׁר
- זֶה
- השמיים
- שֶׁלָהֶם
- אותם
- שם.
- אלה
- הֵם
- דברים
- חושב
- שְׁלִישִׁי
- זֶה
- אם כי?
- איום
- זיהוי איום
- לשגשג
- דרך
- בכל
- קָשׁוּר
- זמן
- פִּי
- ל
- יַחַד
- כלי
- כלים
- סומך
- אמון מכונות
- בוטח
- אמת
- קו תחתון
- הבנה
- הבין
- בניגוד
- בלתי צפוי
- עד
- להשתמש
- משתמש
- משתמשים
- באמצעות
- בְּדֶרֶך כְּלַל
- בעל ערך
- מידע בעל ערך
- ערך
- מגוון
- Vast
- אימות
- לצפיה
- צפייה
- פגיעויות
- פגיעות
- דֶרֶך..
- דרכים
- we
- חלש יותר
- טוֹב
- מה
- מתי
- אשר
- בזמן
- מי
- יצטרך
- עם
- לְלֹא
- תיק עבודות
- לעבוד יחד
- עוֹלָם
- היה
- לכתוב
- XSS
- זפירנט