A kutatók létrehoznak egy mesterséges intelligencia kibervédőt, amely reagál a támadókra

Egy újonnan létrehozott mesterséges intelligencia (AI) rendszer, amely a mélyen megerősített tanuláson (DRL) alapul, képes reagálni a támadókra egy szimulált környezetben, és megakadályozza a kibertámadások 95%-át, mielőtt azok eszkalálódnának.

Ezt állítják az Energiaügyi Minisztérium Pacific Northwest National Laboratory kutatói, akik egy absztrakt szimulációt készítettek a támadók és a védők közötti digitális konfliktusról egy hálózatban, és négy különböző DRL neurális hálózatot képeztek ki, hogy maximalizálják a jutalmat a kompromisszumok megelőzése és a hálózati zavarok minimalizálása alapján.

A szimulált támadók egy sor taktikát alkalmaztak a MITER ATT&CK keretrendszer besorolása, hogy a kezdeti hozzáférési és felderítési fázisból más támadási fázisokba lépjenek, amíg el nem érik céljukat: a becsapódási és kiszűrési fázist.

A mesterséges intelligencia rendszer egyszerűsített támadási környezetre vonatkozó sikeres betanítása azt mutatja, hogy a támadásokra adott védekező válaszok valós időben kezelhetők egy mesterséges intelligencia modellel – mondta Samrat Chatterjee, adattudós, aki bemutatta a csapat munkáját a Szövetség éves találkozóján. A mesterséges intelligencia fejlődése Washingtonban, február 14-én.

„Nem szeretne bonyolultabb architektúrákba lépni, ha még csak nem is tudja megmutatni ezeknek a technikáknak az ígéretét” – mondja. „Először is be akartuk mutatni, hogy valóban képesek vagyunk sikeresen betanítani egy DRL-t, és jó teszteredményeket mutatunk be, mielőtt továbblépnénk.”

A gépi tanulás és a mesterséges intelligencia technikák alkalmazása a kiberbiztonság különböző területein az elmúlt évtizedben a gépi tanulás e-mail biztonsági átjárókba való korai integrációja óta forró trendté vált. az 2010 korai szakaszában az újabb erőfeszítésekhez használja a ChatGPT-t a kód elemzéséhez vagy törvényszéki elemzést végezzen. Most, a legtöbb biztonsági termék rendelkezik – vagy azt állítja, hogy rendelkezik – néhány olyan funkcióval, amelyet nagy adathalmazokra betanított gépi tanulási algoritmusok hajtanak végre.

A proaktív védekezésre képes mesterséges intelligencia-rendszer létrehozása azonban továbbra is inkább törekvés, mintsem praktikus. Bár számos akadály áll még a kutatók előtt, a PNNL kutatása azt mutatja, hogy a mesterséges intelligencia-védő a jövőben lehetséges.

A PNNL kutatócsoportja fontos lépést jelent a gyakorlatias autonóm kibervédelmi megoldások felé, ha többféle DRL-algoritmus kiértékelését végezték el a különböző ellentmondásos körülmények között. írták lapjukban. „Kísérleteink azt sugallják, hogy a modell nélküli DRL-algoritmusok hatékonyan képezhetők többlépcsős támadási profilok alatt, különböző képzettségi és kitartási szintekkel, ami kedvező védekezési eredményeket eredményez vitatható körülmények között.”

Hogyan használja a rendszer a MITER ATT&CK-t

A kutatócsoport első célja egy egyedi szimulációs környezet létrehozása volt, amely egy nyílt forráskódú eszköztáron alapul Nyissa meg az AI edzőtermet. Ezt a környezetet használva a kutatók különböző készség- és kitartási szintű támadó entitásokat hoztak létre, amelyek képesek voltak a MITER ATT&CK keretrendszer 7 taktikából és 15 technikából álló részhalmazának használatára.

A támadóügynökök célja, hogy végighaladjanak a támadási lánc hét lépésén, a kezdeti hozzáféréstől a végrehajtásig, a kitartástól a parancsnoklásig és irányításig, valamint az összegyűjtéstől a becsapódásig.

A támadó számára bonyolult lehet taktikájának a környezet állapotához és a védő aktuális akcióihoz való igazítása, mondja a PNNL Chatterjee.

„Az ellenfélnek el kell navigálnia az utat a kezdeti felderítési állapottól egészen valamilyen kiszivárgási vagy becsapódási állapotig” – mondja. „Nem próbálunk egyfajta modellt létrehozni, hogy megállítsuk az ellenfelet, mielőtt az bejutna a környezetbe – feltételezzük, hogy a rendszer már kompromittálódott.”

A kutatók négy megközelítést alkalmaztak a neurális hálózatokhoz, amelyek megerősítő tanuláson alapultak. A megerősítési tanulás (RL) egy gépi tanulási megközelítés, amely az emberi agy jutalmazási rendszerét emulálja. A neurális hálózat úgy tanul, hogy megerősít vagy gyengít bizonyos paramétereket az egyes neuronok számára, hogy a jobb megoldásokat jutalmazza, amit a rendszer teljesítményét jelző pontszámmal mérnek.

A megerősítő tanulás lényegében lehetővé teszi a számítógép számára, hogy jó, de nem tökéletes megközelítést hozzon létre a problémára, mondja Mahantesh Halappanavar, a PNNL kutatója és a cikk szerzője.

„Bármilyen megerősítő tanulás nélkül is meg tudnánk csinálni, de ez valóban nagy probléma lenne, és nem lesz elég idő ahhoz, hogy ténylegesen jó mechanizmust kitaláljunk” – mondja. "Kutatásunk... ezt a mechanizmust adja nekünk, ahol a mélyen megerősített tanulás bizonyos mértékig magát az emberi viselkedés egy részét utánozza, és nagyon hatékonyan képes feltárni ezt a hatalmas teret."

Nem áll készen a főműsoridőre

A kísérletek azt találták, hogy egy speciális megerősítési tanulási módszer, az úgynevezett Deep Q Network erős megoldást kínál a védekezési problémára, a támadók 97%-át elkapni a tesztelési adathalmazban. A kutatás azonban csak a kezdet. A biztonsági szakembereknek nem szabad olyan mesterséges intelligencia-társat keresniük, aki a közeljövőben segítene nekik az incidensek kezelésére és a kriminalisztika elvégzésében.

A számos megoldásra váró probléma között szerepel a megerősítő tanulás és a mély neurális hálózatok megszerzése a döntéseiket befolyásoló tényezők megmagyarázására, ez a kutatási terület az magyarázható megerősítés tanulás (XRL).

Ezenkívül az AI-algoritmusok robusztussága és a neurális hálózatok képzésének hatékony módjai egyaránt olyan probléma, amelyet meg kell oldani, mondja a PNNL Chatterjee.

„Termék létrehozása – nem ez volt a kutatás fő motivációja” – mondja. "Ez inkább a tudományos kísérletezésről és az algoritmikus felfedezésről szólt."

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. Hozzáférés itt.
• Forrás: https://www.darkreading.com/emerging-tech/researchers-create-ai-cyber-defender-that-reacts-to-attackers