Tasakaalustusseadus: inimteadmiste väärtus generatiivse tehisintellekti ajastul – DATAVERSITY

Turvalisuse osas peetakse inimesi ettevõtte nõrgimaks lüliks. Õigustatult, nagu ülespoole 95 XNUMX% Küberjulgeolekuintsidentide põhjuseks on inimlik eksitus. Inimesed on muutlikud, ekslikud ja ettearvamatud, muutes nad lihtsaks sihtmärgiks küberkurjategijatele, kes soovivad pääseda organisatsioonide süsteemidesse.  

See muudab meie sõltuvuse masinatest palju olulisemaks. Kuni selle hetkeni oleme saanud usaldada masinaid, mis töötavad koodiga kui tõega. Kuigi need võivad koodi haavatavuste või nende operaatorite sotsiaalsete puuduste tõttu ohtu sattuda, lahendatakse probleemid tavaliselt selge lahendusega. 

Kuid tõusuga generatiivne AI (GenAI) ja suured keelemudelid (LLM), organisatsioonid seisavad nüüd silmitsi sotsiaalse inseneri rünnakutega, mis meelitavad tehisintellekti tegema asju, mida ta ei kavatsenud teha. Kuna me laadime tehisintellektile rohkem välja, on huvitav näha neid uusi rünnakumustreid.

Selle dilemma ees on taas inimeste ülesanne selles keerulises ja arenevas tehisintellekti turvamaastikul navigeerida. See kutsub CISO-sid üles selgelt teavitama tehisintellekti eelistest ja puudustest ning tunnistama tehisintellektil töötavate toodete ja võimalustega seotud turvakaalutluste pikka loetelu. 

Generatiivse tehisintellekti kiire rakendamine toob kaasa uusi küberturvalisuse väljakutseid

Alustuseks on GenAI ja LLM-ide puhul levinud probleem laialdane liigne sõltuvus AI-ga loodud sisust. Tehisintellektiga loodud sisu usaldamine ilma eksitava või valeinformatsiooni kontrollimise või kontrollimiseta ilma inimliku sisendi või järelevalveta võib viia ekslike andmete levimiseni, mis annavad teavet halva otsuste tegemise ja kriitilise mõtlemise vähenemise kohta. On teada, et LLM-id hallutsineerivad, nii et osa desinformatsioonist ei pruugi isegi tuleneda pahatahtlikust kavatsusest.

Samamoodi muutub pärast GenAI arengut kasutusele võetava ebaturvalise koodi kogus CISO-de jaoks oluliseks väljakutseks, kui seda ei oodata ennetavalt. Teadaolevalt kirjutavad AI-mootorid turvaaukudega lollakat koodi. Ilma korraliku inimjärelevalveta annab GenAI inimestele õiguse koodi edastamiseks, kellel pole korralikku tehnilist alust. See suurendab turberiski kogu tarkvaraarenduse elutsükli jooksul organisatsioonidele, kes kasutavad neid tööriistu valesti.

Teine levinud probleem on andmete lekkimine. Mõnel juhul võivad ründajad kasutada kiiret süstimist, et eraldada tundlikku teavet, mille AI mudel on teiselt kasutajalt õppinud. Paljudel juhtudel võib see olla kahjutu, kuid pahatahtlik kasutamine pole kindlasti välistatud. Halvad näitlejad võivad AI-tööriista tahtlikult uurida hoolikalt koostatud viipade abil, mille eesmärk on eraldada tundlikku teavet, mille tööriist on meelde jätnud, mis viib tundliku või konfidentsiaalse teabe lekkimiseni.

AI võib suurendada mõningaid küberturvalisuse lünki, kuid sellel on märkimisväärne potentsiaal teiste sulgemiseks

Lõpuks on arusaadav, et GenAI ja LLM-ide levik taandab mõnel põhjusel osa meie tööstuse rünnakupinna vähenemisest. Esiteks, GenAI abil koodi genereerimise võimalus langetab latti, kellest võib saada tarkvarainsener, mille tulemuseks on nõrgem kood ja veelgi nõrgemad turvastandardid. Teiseks nõuab GenAI tohutul hulgal andmeid, mis tähendab, et andmetega seotud rikkumiste ulatus ja mõju kasvab plahvatuslikult. Kolmandaks, nagu iga uue tehnoloogia puhul, ei pruugi arendajad olla täielikult teadlikud viisidest, kuidas nende rakendamist saab ära kasutada või kuritarvitada. 

Sellegipoolest on oluline võtta omaks tasakaalustatud perspektiiv. Kuigi Gen AI hõlbustamine koodide genereerimisel võib tekitada muret, toob see ka küberturvalisuse maastikule positiivseid omadusi. Näiteks suudab see tõhusalt tuvastada turvaauke, nagu saidiülene skriptimine (XSS) või SQL-i süstimine. See kahetine olemus rõhutab nüansirikka arusaamise tähtsust. Selle asemel, et pidada tehisintellekti ainult kahjulikuks, rõhutab see tehisintellekti ja inimeste küberjulgeolekusse kaasamise vahelist täiendavat seost. CISO-d peavad mõistma GenAI ja LLM-idega seotud riske, uurides samal ajal inimkeskseid lähenemisviise GenAI rakendamiseks ja oma organisatsioonide tugevdamiseks.

Inimesed korjavad üles selle, mille tehisintellekt endast maha jätab

CISO-de ülesandeks ei ole ainult GenAI keerukuse lahtiharutamine. Nad peavad sillutama teed oma organisatsioonile edasi ja näitama juhtkonnale, kuidas nende organisatsioon saab GenAI domineeritud maailmas edasi areneda. 

Kuigi lõppkasutajad vastutavad sageli paljude turvaaukude eest, pole küberkuritegevuse vastu paremat kaitset kui hästi koolitatud ja turvalisusega arvestav inimene. Ükskõik, millised ohutuvastusvahendid organisatsioonil on, tarkvara testimisel ekraani taga olevat inimest lihtsalt ei asendata. 

Organisatsioonid suudavad küberkurjategijaid edestada, kasutades jõudu eetiline häkkimine. Kuigi mõned kõhklevad oma võrku kutsumast häkkereid vananenud väärarusaamade tõttu, on need seaduskuulekad küberjulgeolekueksperdid parim vaste halbade tegijate vastu võitlemiseks – sest erinevalt tehisintellektist võivad nad küberründajate pähe sattuda.

Tegelikult täiendavad häkkerid juba küberkurjategijate vastu võitlemisel automatiseeritud tööriistu 92% ulatuses eetilised häkkerid öeldes, et nad võivad leida turvaauke, mida skannerid ei suuda. Tõmbates häkkimiselt lõplikult loori, saavad ettevõtete juhid omaks võtta eetilise häkkimise ja inimeste toe, et leida tõhusam tasakaal tehisintellekti ja inimekspertide vahel kaasaegse küberkuritegevuse vastu võitlemisel. Meie hiljutine Häkkeritega turvaaruanne rõhutab seda, 91% meie klientidest väidab, et häkkerid pakuvad mõjuvamaid ja väärtuslikumaid haavatavuse aruandeid kui tehisintellekt või skannimislahendused. Kuna tehisintellekt jätkab meie tuleviku kujundamist, on eetilise häkkerite kogukond pühendunud selle turvalise integreerimise tagamisele.

Automatiseerimise kombinatsioon kõrgelt kvalifitseeritud häkkerite võrgustikuga tähendab, et ettevõtted saavad kriitilised rakendusevead enne nende ärakasutamist täpselt kindlaks teha. Kui organisatsioonid kombineerivad tõhusalt automatiseeritud turbetööriistu eetilise häkkimisega, kaotavad nad lüngad pidevalt arenevas digitaalse rünnaku pinnal. 

Seda seetõttu, et inimesed ja tehisintellekt saavad turvameeskonna tootlikkuse parandamiseks koostööd teha. 

1. Rünnaku pinnaluure: Kaasaegsed organisatsioonid võivad kasvatada ulatuslikku ja keerukat IT-taristut, mis hõlmab nii volitatud kui ka sanktsioneerimata riist- ja tarkvara. IT-varade (nt tarkvara ja riistvara) kõikehõlmava indeksi väljatöötamine on oluline haavatavuste vähendamiseks, plaastrihalduse sujuvamaks muutmiseks ja valdkonna volituste täitmiseks. Samuti aitab see tuvastada ja analüüsida punkte, mille kaudu ründaja võib organisatsiooni sihtida.
2. Pidev hindamine: Liikudes ajahetkel turvalisusest kaugemale, saavad organisatsioonid kombineerida inimturbeekspertide leidlikkust reaalajas ründepinna ülevaatega, et saavutada digitaalse maastiku pidev testimine. Pidev läbitungimiskatse võimaldab IT-meeskondadel vaadata pidevate simulatsioonide tulemusi, mis näitavad, kuidas rikkumine praeguses keskkonnas välja näeks, ja potentsiaalseid nõrku kohti, kus meeskonnad saavad reaalajas kohaneda.
3. Protsessi täiustused: Usaldusväärsed inimhäkkerid saavad anda turvameeskondadele väärtuslikku teavet haavatavuste ja varade kohta, et aidata protsessi täiustada.

Järeldus

Kuna generatiivne tehisintellekt areneb jätkuvalt nii kiires tempos, peavad CISO-d kasutama oma arusaama sellest, kuidas inimesed saavad teha koostööd, et suurendada tehisintellekti turvalisust ning koguda toetust oma juhatuselt ja juhtkonnalt. Selle tulemusel võib organisatsioonidel olla nende väljakutsetega tõhusaks lahendamiseks piisavalt personali ja ressursse. Õige tasakaalu leidmine tehisintellekti kiire juurutamise ja igakülgse turvalisuse vahel koostöös eetiliste häkkeritega tugevdab argumenti investeerida sobivatesse AI-põhistesse lahendustesse.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://www.dataversity.net/balancing-act-the-value-of-human-expertise-in-the-age-of-generative-ai/