AI ואבטחה: זה מסובך אבל לא צריך להיות | חדשות ודיווחים של IoT Now

בינה מלאכותית צומחת בפופולריות והמגמה הזו רק תימשך. זה נתמך על ידי גרטנר אשר קובע כי כ-80% מהארגונים ישתמשו בבינה מלאכותית גנרטיבית (GenAI) ממשקי תכנות יישומים (APIs) או מודלים עד 2026. עם זאת, AI הוא מונח רחב ונמצא בכל מקום, ובמקרים רבים הוא מכסה מגוון טכנולוגיות. עם זאת, בינה מלאכותית מציגה פריצות דרך ביכולת לעבד לוגיקה בצורה שונה, מה שמושך תשומת לב מעסקים וצרכנים כאחד שמתנסים עם צורות שונות של בינה מלאכותית כיום. יחד עם זאת, הטכנולוגיה הזו מושכת תשומת לב דומה מצד גורמי איומים שמבינים שהיא עלולה להיות חולשה באבטחה של החברה בעוד שהיא יכולה להיות גם כלי שעוזר לחברות לזהות את החולשות הללו ולטפל בהן.

אתגרי אבטחה של AI

אחת הדרכים שבהן חברות משתמשות בבינה מלאכותית היא לסקור מערכי נתונים גדולים כדי לזהות דפוסים ולרצף נתונים בהתאם. זה מושג על ידי יצירת מערכי נתונים טבלאיים המכילים בדרך כלל שורות ושורות של נתונים. אמנם יש לכך יתרונות משמעותיים לחברות, החל משיפור היעילות ועד לזיהוי דפוסים ותובנות, אבל זה גם מגביר את סיכוני האבטחה במידה ותתרחש פריצה, הנתונים הללו מסודרים בצורה שקל להשתמש בהם עבור גורמי איומים.

איום נוסף מתפתח בעת שימוש בטכנולוגיות מודל שפה גדול (LLM) אשר מסירים מחסומי אבטחה כאשר הנתונים מוצבים בנחלת הכלל עבור כל מי שמשתמש בטכנולוגיה כדי להיתקל בו ולהשתמש בו. מכיוון ש-LLM הוא למעשה בוט שאינו מבין את הפרטים, הוא מייצר את התגובה הסבירה ביותר בהתבסס על הסתברות באמצעות המידע שיש לו בהישג יד. לפיכך, חברות רבות מונעות מעובדים להכניס כל נתוני חברה לכלים כמו ChatGPT כדי לשמור על אבטחת הנתונים בתחומי החברה.

יתרונות האבטחה של AI

בעוד שבינה מלאכותית עשויה להוות סיכון פוטנציאלי עבור חברות, היא גם יכולה להיות חלק מהפתרון. מכיוון שבינה מלאכותית מעבדת מידע באופן שונה מבני אדם, היא יכולה להסתכל על נושאים אחרת ולהציע פתרונות פורצי דרך. לדוגמה, בינה מלאכותית מייצרת אלגוריתמים טובים יותר ויכולה לפתור בעיות מתמטיות שבני אדם נאבקו בהן במשך שנים רבות. ככזה, כשזה מגיע לאבטחת מידע, האלגוריתמים הם המלך ו בינה מלאכותית, למידת מכונה (ML) או טכנולוגיית מחשוב קוגניטיבית דומה, יכולה להמציא דרך לאבטחת נתונים.

זהו יתרון אמיתי של AI מכיוון שהוא לא רק יכול לזהות ולמיין כמויות אדירות של מידע, אלא הוא יכול לזהות דפוסים המאפשרים לארגונים לראות דברים שהם מעולם לא שמו לב אליהם קודם לכן. זה מביא אלמנט חדש לגמרי לאבטחת מידע. בעוד שבינה מלאכותית תשמש את גורמי האיומים ככלי לשיפור האפקטיביות שלהם בפריצה למערכות, היא תשמש גם ככלי על ידי האקרים אתיים כדי לנסות לגלות כיצד לשפר את האבטחה אשר יועיל מאוד לעסקים.

אתגר העובדים והביטחון

עובדים, שרואים את היתרונות של AI בחייהם האישיים, משתמשים בכלים כמו ChatGPT לשפר את יכולתם לבצע פונקציות בעבודה. במקביל, עובדים אלו מוסיפים למורכבות של אבטחת מידע. חברות צריכות להיות מודעות לאיזה מידע העובדים מכניסים לפלטפורמות הללו ולאיומים הקשורים אליהן.

מכיוון שפתרונות אלה יביאו יתרונות למקום העבודה, חברות עשויות לשקול הכנסת נתונים לא רגישים למערכות כדי להגביל את החשיפה של מערכי נתונים פנימיים תוך שיפור היעילות ברחבי הארגון. עם זאת, ארגונים צריכים להבין שהם לא יכולים לקבל את זה בשני הכיוונים, ונתונים שהם מכניסים למערכות כאלה לא יישארו פרטיים. מסיבה זו, חברות יצטרכו לסקור את מדיניות אבטחת המידע שלהן ולזהות כיצד להגן על נתונים רגישים ובו בזמן להבטיח לעובדים גישה לנתונים קריטיים.

נתונים לא רגישים אבל שימושיים

חברות מודעות לערך שבינה מלאכותית יכולה להביא ובו בזמן להוסיף א סיכון ביטחוני לתוך התערובת. כדי להשיג ערך מטכנולוגיה זו תוך שמירה על פרטיות הנתונים, הם בוחנים דרכים ליישם נתונים אנונימיים באמצעות שימוש בדוי, למשל, המחליף מידע מזוהה בשם בדוי, או ערך ואינו מאפשר לזהות את האדם באופן ישיר.

דרך נוספת שחברות יכולות להגן על נתונים היא באמצעות AI גנרטיבי לנתונים סינתטיים. לדוגמה, אם לחברה יש מערך נתונים של לקוחות וצריכה לשתף אותו עם צד שלישי לצורך ניתוח ותובנות, הם מפנים מודל ליצירת נתונים סינתטיים על מערך הנתונים. מודל זה ילמד הכל על מערך הנתונים, יזהה דפוסים מתוך המידע ולאחר מכן יפיק מערך נתונים עם אנשים בדיוניים שאינם מייצגים אף אחד בנתונים האמיתיים, אך מאפשר לנמען לנתח את כל מערך הנתונים ולספק מידע מדויק בחזרה. המשמעות היא שחברות יכולות לשתף מידע מזויף אך מדויק מבלי לחשוף נתונים רגישים או פרטיים. Tהגישה שלו מאפשרת להשתמש בכמויות אדירות של מידע על ידי מודלים של למידת מכונה לצורך ניתוח, ובמקרים מסוימים, לבדיקת נתונים לפיתוח.

עם מספר שיטות הגנת מידע הזמינות לחברות כיום, ניתן למנף את הערך של טכנולוגיות AI מתוך שקט נפשי שהנתונים האישיים נשארים בטוחים ומאובטחים. זה משמעותי עבור עסקים שכן הם חווים את היתרונות האמיתיים שהנתונים מביאים לשיפור היעילות, קבלת ההחלטות וחווית הלקוח הכוללת.

מאמר מאת קלייד וויליאמסון, אדריכל אבטחה ראשי ונייתן וגה, סגן נשיא, שיווק ואסטרטגיה של מוצרים ב-Protegrity.

הגיבו על מאמר זה למטה או באמצעות X: @IoTNow_

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://www.iot-now.com/2024/01/19/141963-ai-and-security-it-is-complicated-but-doesnt-need-to-be/