A kiberbűnözők a generatív mesterséges intelligencia technológiáját használják fel tevékenységeik és indulásuk elősegítésére üzleti e-mail kompromisszum (BEC) támadások, beleértve a WormGPT néven ismert eszköz használatát, amely a kifejezetten rosszindulatú tevékenységekre tervezett GPT-modellek blackhat alternatívája.
A SlashNext jelentése szerint a WormGPT-t különféle adatforrásokra képezték ki, elsősorban a rosszindulatú programokkal kapcsolatos adatokra összpontosítva, emberszerű szöveget generálva a kapott bemenet alapján, és nagyon meggyőző hamis e-maileket tud készíteni.
Egy kiberbűnözési űrlapról készült képernyőképek szemléltetik a rosszindulatú szereplők közötti eszmecserét arról, hogyan telepítsék a ChatGPT-t a sikeres BEC-támadások elősegítésére, jelezve, hogy a célnyelvet korlátozottan beszélő hackerek a gen AI segítségével meggyőző e-mailt készíthetnek.
A kutatócsoport a WormGPT-vel kapcsolatos lehetséges kockázatok értékelését is elvégezte, különös tekintettel a BEC-támadásokra, és arra utasította az eszközt, hogy hozzon létre egy e-mailt, amelynek célja a gyanútlan fiókmenedzser rábírja a csaló számla kifizetésére.
Az eredmények azt mutatták, hogy a WormGPT nem csak meggyőző hangot tudott kiadni, hanem „stratégiailag ravasz” is, amely jelzi képességeit kifinomult adathalász és BEC támadások végrehajtására.
„Olyan ez, mint a ChatGPT, de nincsenek etikai határai vagy korlátai” – áll a jelentésben, megjegyezve, hogy az eszközök fejlesztése aláhúzza a generatív mesterséges intelligencia technológiák, köztük a WormGPT által jelentett fenyegetést, még a kezdő számítógépes bűnözők kezében is.
A jelentés azt is feltárta, hogy a kiberbűnözők „jailbreakeket” terveznek, olyan speciális promptokat, amelyek a generatív mesterséges intelligencia interfészek manipulálására szolgálnak olyan kimenetek létrehozására, amelyek érzékeny információk felfedésével, nem megfelelő tartalom előállításával vagy akár káros kód futtatásával járhatnak.
Egyes ambiciózus kiberbûnözõk még egy lépéssel tovább is lépnek a dolgokban azáltal, hogy a ChatGPT-hez hasonló egyedi modulokat hoznak létre, amelyek célja, hogy segítsék õket támadások végrehajtásában. Ez az evolúció még bonyolultabbá teheti a kibervédelmet.
„A rosszindulatú szereplők most nagy méretekben, nulla költséggel indíthatják el ezeket a támadásokat, és sokkal célzottabb pontossággal, mint korábban” – magyarázza Patrick Harr, a SlashNext vezérigazgatója. „Ha nem járnak sikerrel az első BEC vagy adathalász kísérlet során, egyszerűen újra próbálkozhatnak újraszerkesztett tartalommal.”
A generatív mesterséges intelligencia alkalmazása a Harr által a támadások „polimorf természetének” nevezett támadások felé vezet, amelyek nagy sebességgel és a támadást támogató egyén vagy szervezet számára költségmentesen indíthatók. „Ez a célzott jelleg, valamint a támadások gyakorisága, ami valóban arra készteti a vállalatokat, hogy újragondolják biztonsági helyzetüket” – mondja.
Tűz elleni tűz
A generatív mesterséges intelligencia eszközök térnyerése további bonyolultságokat és kihívásokat jelent a kiberbiztonsági erőfeszítésekben fokozott támadási kifinomultság és kiemelve annak szükségességét erősebb védekezési mechanizmusok fejlődő fenyegetésekkel szemben.
Harr szerint a mesterséges intelligencia által támogatott BEC, a rosszindulatú programok és az adathalász támadások fenyegetése ellen a legjobban az MI által támogatott védelmi képességekkel lehet leküzdeni.
„A mesterséges intelligencia elleni küzdelemhez integrálnia kell a mesterséges intelligenciát, különben kívülről néz majd be, és folyamatos jogsértéseket fog látni” – mondja. Ehhez pedig mesterséges intelligencia-alapú védelmi eszközök képzésére van szükség a mesterséges intelligencia által generált fenyegetések kifinomult, gyorsan fejlődő halmazának felfedezéséhez, észleléséhez és végső soron blokkolásához.
„Ha egy fenyegetőző támadást indít, majd azt mondja a gen AI eszköznek, hogy módosítsa azt, akkor csak annyiféleképpen mondhatja el ugyanazt” – magyarázza Harr például a számlacsalás kapcsán. „Azt teheted, hogy megmondod a mesterséges intelligencia védelmének, hogy vegyék ezt a magot, és klónozzák, hogy 24 különböző módot hozzanak létre ugyanazon dolog elmondására.” A biztonsági csapatok ezután átvehetik ezeket a szintetikus adatklónokat, és visszatérhetnek, és kiképezhetik a szervezet védelmi modelljét.
„Szinte megjósolhatja, hogy mi lesz a következő fenyegetésük, mielőtt elindítanák, és ha ezt beépíti a védekezésébe, észlelheti és blokkolhatja, mielőtt ténylegesen megfertőzné” – mondja. „Ez egy példa arra, hogyan használjuk az AI-t az AI elleni küzdelemben.”
Az ő szemszögéből a szervezetek végső soron az MI-re fognak támaszkodni a felfedezések felderítésében, és végső soron ezeknek a fenyegetéseknek a elhárításában, mert egyszerűen emberileg nincs mód arra, hogy enélkül a görbe elé kerüljön.
Áprilisban a Forcepoint kutatója meggyőzte az AI-eszközt a létrehozásáról rosszindulatú program bizonyos dokumentumok megtalálására és kiszűrésére, annak ellenére, hogy a rosszindulatú kéréseket elutasítja.
Eközben a fejlesztők lelkesedése a ChatGPT és más nagy nyelvi modell (LLM) eszközök iránt a legtöbb szervezetet elhagyta. nagyrészt felkészületlenül hogy megvédjem azokat a sebezhetőségeket, amelyeket a születőben lévő technológia teremt.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Autóipar / elektromos járművek, Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- BlockOffsets. A környezetvédelmi ellentételezési tulajdon korszerűsítése. Hozzáférés itt.
- Forrás: https://www.darkreading.com/attacks-breaches/wormgpt-heralds-an-era-of-using-ai-defenses-to-battle-ai-malware
- :van
- :is
- :nem
- 24
- a
- Képes
- Fiók
- tevékenységek
- szereplők
- tulajdonképpen
- További
- újra
- ellen
- előre
- AI
- Támogatás
- célzó
- mentén
- Is
- alternatív
- becsvágyó
- an
- és a
- számít
- április
- VANNAK
- AS
- társult
- At
- támadás
- Támadások
- vissza
- támogatás
- alapján
- Csata
- BE
- BEC
- mert
- válik
- előtt
- BEST
- között
- Fekete sapka
- Blokk
- határait
- megsértésének
- de
- by
- kéri
- TUD
- képességek
- visz
- vezérigazgató
- kihívások
- ChatGPT
- kód
- Companies
- bonyodalmak
- bonyolult
- lefolytatott
- tartalom
- tovább
- Mag
- Költség
- tudott
- teremt
- teremt
- létrehozása
- bűnözők
- görbe
- szokás
- cyber
- a számítógépes bűnözés
- kiberbűnözők
- Kiberbiztonság
- dátum
- Védelem
- telepíteni
- tervezett
- tervezés
- Ellenére
- Érzékelés
- fejlesztők
- Fejlesztés
- különböző
- Közzététel
- felfedez
- felfedezés
- do
- Ennek
- erőfeszítések
- e-mailek
- lelkesedés
- Ez volt
- Eter (ETH)
- etikai
- értékelés
- Még
- evolúció
- fejlődik
- példa
- Feltételek
- kivégez
- végrehajtó
- Elmagyarázza
- hamisítvány
- harc
- megtalálása
- természet
- vezetéknév
- Összpontosít
- A
- forma
- csalás
- csaló
- Frekvencia
- ból ből
- további
- Gen
- generál
- generáló
- nemző
- Generatív AI
- kap
- Go
- megy
- nagy
- hackerek
- kezek
- káros
- Legyen
- he
- fej
- segít
- hírnökei
- kiemelve
- nagyon
- övé
- Hogyan
- How To
- HTTPS
- if
- in
- Beleértve
- bele
- jelezve
- Mutató
- egyéni
- információ
- bemenet
- integrálni
- interfészek
- bele
- bevezetéséről
- vonja
- IT
- ITS
- jpg
- ismert
- nyelv
- nagy
- indít
- indított
- balra
- erőfölény
- mint
- korlátozások
- Korlátozott
- keres
- csinál
- Gyártás
- malware
- menedzser
- sok
- modell
- modellek
- módosítása
- Modulok
- több
- a legtöbb
- sok
- születő
- Természet
- Szükség
- következő
- nem
- megjegyezve,
- novícius
- Most
- of
- on
- csak
- or
- szervezet
- szervezetek
- Más
- másképp
- ki
- teljesítmény
- kívül
- patrick
- fizetés
- perspektíva
- Adathalászat
- adathalász támadások
- Plató
- Platón adatintelligencia
- PlatoData
- lehetséges
- potenciális
- Pontosság
- termelő
- gyorsan
- RE
- tényleg
- kap
- jelentést
- kéri
- megköveteli,
- kutatás
- Eredmények
- Revealed
- Emelkedik
- kockázatok
- erős
- s
- Mondott
- azonos
- azt mondják
- azt mondja,
- Skála
- biztonság
- lát
- érzékeny
- készlet
- egyszerűen
- So
- valami
- kifinomult
- Források
- specializált
- különleges
- kifejezetten
- sebesség
- Lépés
- Stratégiailag
- sikeres
- szintetikus
- szintetikus adatok
- Vesz
- bevétel
- cél
- célzott
- csapat
- csapat
- Technologies
- Technológia
- mondd
- megmondja
- mint
- hogy
- A
- azok
- Őket
- akkor
- Ott.
- Ezek
- ők
- dolog
- dolgok
- Azt hiszi
- ezt
- azok
- fenyegetés
- fenyegetések
- nak nek
- TONE
- szerszám
- szerszámok
- Vonat
- kiképzett
- Képzések
- megpróbál
- Végül
- aláhúzás
- használ
- használt
- segítségével
- különféle
- sérülékenységek
- volt
- Út..
- módon
- Mit
- ami
- lesz
- val vel
- nélkül
- te
- A te
- zephyrnet
- nulla