AI și securitate: este complicat, dar nu trebuie să fie | Știri și rapoarte IoT Now

AI crește în popularitate și această tendință urmează să continue. Acest lucru este susținut de Gartner care precizează că aproximativ 80% dintre întreprinderi vor fi folosit inteligența artificială generativă (GenAI) interfețe de programare a aplicațiilor (API) sau modele până în 2026. Cu toate acestea, IA este un termen larg și omniprezent și, în multe cazuri, acoperă o gamă largă de tehnologii. Cu toate acestea, AI prezintă progrese în capacitatea de a procesa logica diferit, ceea ce atrage atenția atât din partea companiilor, cât și a consumatorilor care experimentează astăzi diverse forme de IA. În același timp, această tehnologie atrage o atenție similară din partea actorilor amenințărilor care realizează că ar putea fi o slăbiciune în securitatea unei companii, în timp ce ar putea fi, de asemenea, un instrument care ajută companiile să identifice aceste puncte slabe și să le rezolve.

Provocările de securitate ale AI

O modalitate prin care companiile folosesc inteligența artificială este să revizuiască seturi mari de date pentru a identifica modelele și secvența datelor în consecință. Acest lucru se realizează prin crearea de seturi de date tabelare care conțin de obicei rânduri și rânduri de date. Deși acest lucru are beneficii semnificative pentru companii, de la îmbunătățirea eficienței până la identificarea modelelor și perspectivelor, crește și riscurile de securitate, deoarece ar avea loc o încălcare, aceste date sunt sortate într-un mod ușor de utilizat de către actorii amenințărilor.

O amenințare ulterioară evoluează atunci când se utilizează tehnologii de model de limbă mare (LLM) care elimină barierele de securitate pe măsură ce datele sunt plasate în domeniul public pentru oricine folosește tehnologia pentru a se împiedica și a le utiliza. Deoarece LLM este efectiv un bot care nu înțelege detaliile, produce cel mai probabil răspuns bazat pe probabilitate folosind informațiile pe care le are la îndemână. Ca atare, multe companii îi împiedică pe angajați să pună orice date ale companiei în instrumente precum ChatGPT pentru a păstra datele în siguranță în limitele companiei.

Beneficiile de securitate ale AI

Deși AI poate prezenta un risc potențial pentru companii, ar putea fi, de asemenea, parte a soluției. Pe măsură ce AI prelucrează informațiile în mod diferit față de oamenii, poate analiza problemele diferit și poate veni cu soluții inovatoare. De exemplu, AI produce algoritmi mai buni și poate rezolva probleme matematice cu care oamenii s-au luptat de mulți ani. Ca atare, când vine vorba de securitatea informațiilor, algoritmii sunt regele și AI, învățare automată (ML) sau o tehnologie similară de calcul cognitiv, ar putea veni cu o modalitate de a securiza datele.

Acesta este un beneficiu real al inteligenței artificiale, deoarece nu numai că poate identifica și sorta cantități masive de informații, dar poate identifica modele care să permită organizațiilor să vadă lucruri pe care nu le-au observat niciodată înainte. Acest lucru aduce un element cu totul nou pentru securitatea informațiilor. Deși AI va fi folosită de actorii amenințărilor ca un instrument pentru a-și îmbunătăți eficiența piratarii în sisteme, va fi, de asemenea, folosită ca instrument de către hackerii etici pentru a încerca să afle cum să îmbunătățească securitatea, ceea ce va fi foarte benefic pentru companii.

Provocarea angajaților și securitatea

Angajații, care văd beneficiile AI în viața lor personală, folosesc instrumente precum Chat GPT pentru a-și îmbunătăți capacitatea de a îndeplini funcțiile postului. În același timp, acești angajați sporesc complexitatea securității datelor. Companiile trebuie să fie conștiente de informațiile pe care angajații le pun pe aceste platforme și de amenințările asociate cu acestea.

Întrucât aceste soluții vor aduce beneficii la locul de muncă, companiile ar putea lua în considerare introducerea de date nesensibile în sisteme pentru a limita expunerea seturilor de date interne, în timp ce sporesc eficiența în întreaga organizație. Cu toate acestea, organizațiile trebuie să realizeze că nu pot avea în ambele sensuri, iar datele pe care le pun în astfel de sisteme nu vor rămâne private. Din acest motiv, companiile vor trebui să-și revizuiască politicile de securitate a informațiilor și să identifice cum să protejeze datele sensibile, asigurându-se, în același timp, că angajații au acces la datele critice.

Date nu sensibile, dar utile

Companiile sunt conștiente de valoarea pe care AI o poate aduce și, în același timp, adaugă a risc de securitate în amestec. Pentru a câștiga valoare din această tehnologie, păstrând în același timp datele private, aceștia explorează modalități de implementare a datelor anonimizate folosind pseudonimizarea, de exemplu, care înlocuiește informațiile identificabile cu un pseudonim sau o valoare și nu permite identificarea directă a individului.

Un alt mod în care companiile pot proteja datele este cu IA generativă pentru date sintetice. De exemplu, dacă o companie are un set de date despre clienți și trebuie să-l partajeze cu o terță parte pentru analiză și perspective, ea indică un model sintetic de generare de date către setul de date. Acest model va învăța totul despre setul de date, va identifica modele din informații și apoi va produce un set de date cu persoane fictive care nu reprezintă pe nimeni în datele reale, dar permite destinatarului să analizeze întregul set de date și să ofere înapoi informații exacte. Aceasta înseamnă că companiile pot partaja informații false, dar exacte, fără a expune date sensibile sau private. Tabordarea sa permite ca cantități masive de informații să fie folosite de modelele de învățare automată pentru analiză și, în unele cazuri, pentru a testa datele pentru dezvoltare.

Cu mai multe metode de protecție a datelor disponibile pentru companii astăzi, valoarea tehnologiilor AI poate fi valorificată cu liniștea sufletească că datele personale rămân în siguranță și securizate. Acest lucru este semnificativ pentru companii, deoarece experimentează adevăratele beneficii pe care datele le aduc pentru îmbunătățirea eficienței, luarea deciziilor și experiența generală a clienților.

Articol scris de Clyde Williamson, arhitect șef de securitate și Nathan Vega, vicepreședinte, marketing și strategie de produs la Protegrity.

Comentează acest articol de mai jos sau prin X: @IoTNow_

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://www.iot-now.com/2024/01/19/141963-ai-and-security-it-is-complicated-but-doesnt-need-to-be/