Az „ellenálló mesterséges intelligencia” veszélyt jelent a katonai rendszerekre, mondja Lospinoso, a Shift5

Az „ellenálló mesterséges intelligencia” veszélyt jelent a katonai rendszerekre, mondja Lospinoso, a Shift5

Időbélyeg: 29. május 2023. 3:43
Forrás csomópont: 2685907

Josh Lospinoso első kiberbiztonsági startupját 2017-ben vásárolta meg a Raytheon/Forcepoint. A második, a Shift5 az amerikai hadsereggel, vasúti szolgáltatókkal és légitársaságokkal dolgozik, beleértve a JetBlue-t is. A 2009-es West Point diplomás és Rhodes Scholar, a 36 éves egykori hadseregkapitány több mint egy évtizedet töltött hackereszközök szerzői a Nemzetbiztonsági Ügynökség és az Egyesült Államok Kiberparancsnoksága számára.

Lospinoso a közelmúltban elmondta a Szenátus Fegyveres Szolgálatainak albizottságának, hogy a mesterséges intelligencia hogyan segíthet megvédeni a katonai műveleteket. A vezérigazgató/programozó megvitatta a témát az Associated Press-vel, valamint azt, hogy a fegyverrendszerekben található szoftveres sebezhetőségek komoly veszélyt jelentenek az amerikai hadseregre nézve. Az interjút az egyértelműség és a terjedelem érdekében szerkesztettük.

K: Vallomásában két fő fenyegetést írt le az AI-kompatibilis technológiákkal szemben: Az egyik a lopás. Ez magától értetődő. A másik az adatmérgezés. Meg tudod ezt magyarázni?

V: Az adatmérgezés egyik módja a digitális dezinformáció. Ha az ellenfelek képesek előállítani azokat az adatokat, amelyeket az AI-kompatibilis technológiák látnak, akkor mélyrehatóan befolyásolhatják a technológia működését.

K: Adatmérgezés történik?

V: Nem látjuk széles körben. De megtörtént. Az egyik legismertebb eset 2016-ban történt. A Microsoft kiadott egy Tay nevű Twitter chatbotot, amely online beszélgetéseiből tanult. A rosszindulatú felhasználók összeesküdtek, hogy sértő, sértő nyelvezeteket tweeteljenek. Tay elkezdett gyulladást okozó tartalmat generálni. A Microsoft offline állapotba hozta.

K: Az AI nem csak chatbotok. Régóta a kiberbiztonság szerves része, igaz?

V: Az AI-t az e-mail szűrőkben használják a kéretlen levelek és az adathalász csalók megjelölésére és elkülönítésére. Egy másik példa a végpontok, például a laptop víruskereső programja – vagy a hálózatokon futó rosszindulatú programokat észlelő szoftver. Természetesen a támadó hackerek mesterséges intelligencia segítségével is megpróbálják legyőzni ezeket az osztályozási rendszereket. Ezt hívják ellenséges AI-nak.

K: Beszéljünk a katonai szoftverrendszerekről. Riasztó 2018 A Kormányzati Számviteli Hivatal jelentése azt mondta, hogy szinte minden újonnan kifejlesztett fegyverrendszer rendelkezik küldetéskritikus sérülékenységekkel. És a Pentagon gondolkodik azon, hogy mesterséges intelligenciát helyezzenek be ilyen rendszerekbe?

V: Itt két probléma van. Először is megfelelően biztosítanunk kell a meglévő fegyverrendszereket. Ez egy technikai adósságunk, amelynek kifizetése nagyon hosszú ideig tart. Aztán az AI-algoritmusok biztonságának új határai vannak – újszerű dolgok, amelyeket telepítenénk. A GAO-jelentés nem igazán beszélt az MI-ről. Szóval felejtsd el az AI-t egy pillanatra. Ha ezek a rendszerek csak úgy maradnak, ahogy vannak, akkor is mélységesen sebezhetőek.

Megvitatjuk a keretek kiterjesztését és az AI-kompatibilis képességek hozzáadását olyan dolgokhoz, mint a jobb karbantartás és a működési intelligencia. Minden nagyszerű. De mi egy kártyavárra építünk. Sok rendszer több évtizedes, digitális technológiával utólag felszerelt. Repülőgépek, földi járművek, űreszközök, tengeralattjárók. Most már össze vannak kötve. Cseréljük ki és be az adatokat. A rendszerek porózusak, nehezen frissíthetők, és megtámadhatók. Amint egy támadó hozzáfér, a játéknak vége.

Néha könnyebb új platformot építeni, mint a meglévő rendszerek digitális összetevőit újratervezni. De az AI-nak szerepe van ezeknek a rendszereknek a biztosításában. Az AI védekezésre használható, ha valaki kompromittálni próbálja őket.

K: Ön azt vallotta, hogy az AI-kutatás szüneteltetése, ahogyan azt egyesek sürgették, rossz ötlet lenne, mert Kínának és más versenytársaknak kedvezne. De aggályai vannak a mesterséges intelligencia termékek iránti fejvesztve rohanás miatt is. Miért?

V: Nem szeretek fatalisztikusnak tűnni, de úgy tűnik, az úgynevezett „égető-használat” eset érvényes. A piacra sietett termék gyakran kigyullad (feltörik, meghibásodik, nem szándékos károkat okoz). Mi pedig azt mondjuk: "Fiú, be kellett volna építenünk a biztonságot." Arra számítok, hogy az AI fejlesztési üteme felgyorsul, és előfordulhat, hogy nem tartunk elég szünetet ahhoz, hogy ezt biztonságosan és felelősségteljesen tegyük. Legalábbis a Fehér Ház és a Kongresszus tárgyalja ezeket a kérdéseket.

K: Úgy tűnik, hogy egy csomó vállalat – köztük a védelmi szektorban – rohan a félkész mesterséges intelligencia termékek bejelentésére.

V: Minden technológiai vállalat és sok nem technológiai vállalat szinte megdöbbentő fordulatot tett az AI felé. Gazdasági zavarok jönnek. Az üzleti modellek alapvetően megváltoznak. Kimozdulások már történnek, vagy a láthatáron vannak – és a cégvezetők igyekeznek ne kapkodni a lapos lábon.

K: Mi a helyzet a mesterséges intelligencia felhasználásával a katonai döntéshozatalban, például a célzásban?

V: Nem, kategorikusan nem gondolom, hogy a mesterséges intelligencia algoritmusai – az általunk gyűjtött adatok – készen állnak a főműsoridőre, hogy egy halálos fegyverrendszer döntéseket hozzon. Annyira messze vagyunk ettől.

Időbélyeg:

Még több Védelmi hírek