"Adversarial AI" uhka sotilasjärjestelmille, Shift5:n Lospinoso sanoo

Raytheon/Forcepoint osti Josh Lospinoson ensimmäisen kyberturvallisuusstartupin vuonna 2017. Hänen toinen, Shift5, työskentelee Yhdysvaltain armeijan, rautatieyritysten ja lentoyhtiöiden, mukaan lukien JetBluen, kanssa. Vuonna 2009 West Pointin tutkinto ja Rhodes Scholar, 36-vuotias entinen armeijakapteeni vietti yli vuosikymmenen hakkerointityökalujen luominen National Security Agencylle ja US Cyber ​​Commandille.

Lospinoso kertoi äskettäin senaatin puolustusvoimien alakomitealle, kuinka tekoäly voi auttaa suojaamaan sotilasoperaatioita. Toimitusjohtaja/ohjelmoija keskusteli aiheesta Associated Pressin kanssa sekä kuinka asejärjestelmien ohjelmistohaavoittuvuudet ovat suuri uhka Yhdysvaltain armeijalle. Haastattelua on muokattu selkeyden ja pituuden vuoksi.

K: Todistuksessasi kuvailit kahta pääasiallista tekoälyä tukevien teknologioiden uhkaa: Toinen on varkaus. Se on itsestään selvää. Toinen on datamyrkytys. Voitko selittää sen?

V: Yksi tapa ajatella datamyrkytystä on digitaalisena disinformaationa. Jos vastustajat pystyvät luomaan tekoälyä tukevien tekniikoiden näkemää dataa, he voivat vaikuttaa syvästi tekniikan toimintaan.

K: Tapahtuuko tietomyrkytys?

V: Emme näe sitä laajasti. Mutta se on tapahtunut. Yksi tunnetuimmista tapauksista tapahtui vuonna 2016. Microsoft julkaisi Twitter-chatbotin nimeltä Tay, joka oppi verkossa käymistään keskusteluista. Haitalliset käyttäjät salaliittivat twiittaamaan loukkaavaa, loukkaavaa kieltä. Tay alkoi tuottaa tulehduksellista sisältöä. Microsoft otti sen offline-tilaan.

K: Tekoäly ei ole vain chatbotteja. Se on pitkään ollut olennainen osa kyberturvallisuutta, eikö niin?

V: Tekoälyä käytetään sähköpostin suodattimissa roskapostin ja tietojenkalasteluvieheiden merkitsemiseen ja erottamiseen. Toinen esimerkki ovat päätepisteet, kuten kannettavan tietokoneen virustorjuntaohjelma – tai verkoissa toimiva haittaohjelmien tunnistusohjelmisto. Tietenkin hyökkäävät hakkerit käyttävät myös tekoälyä yrittääkseen kukistaa nämä luokitusjärjestelmät. Sitä kutsutaan kilpailevaksi tekoälyksi.

K: Puhutaanpa sotilaallisista ohjelmistojärjestelmistä. Hälyttävä vuosi 2018 Valtion tilintarkastusviraston raportti sanoi, että lähes kaikissa äskettäin kehitetyissä asejärjestelmissä oli kriittisiä haavoittuvuuksia. Ja Pentagon harkitsee tekoälyn sijoittamista tällaisiin järjestelmiin?

V: Tässä on kaksi ongelmaa. Ensinnäkin meidän on turvattava riittävästi olemassa olevat asejärjestelmät. Tämä on tekninen velka, jonka maksaminen kestää hyvin kauan. Sitten on uusi raja tekoälyalgoritmien turvaamisessa – uusia asioita, jotka asennamme. GAO:n raportissa ei oikeastaan ​​puhuttu tekoälystä. Joten unohda AI hetkeksi. Jos nämä järjestelmät vain pysyisivät sellaisinaan, ne ovat edelleen erittäin haavoittuvia.

Keskustelemme kirjekuoren siirtämisestä ja tekoälyn tukemien ominaisuuksien lisäämisestä esimerkiksi parempaan ylläpitoon ja käyttöälyyn. Kaikki hienoa. Mutta rakennamme korttitalon päälle. Monet järjestelmät ovat vuosikymmeniä vanhoja, ja niissä on jälkiasennettu digitaalitekniikkaa. Lentokoneet, maa-ajoneuvot, avaruusomaisuus, sukellusveneet. Ne ovat nyt yhteydessä toisiinsa. Vaihdamme tietoja sisään ja ulos. Järjestelmät ovat huokoisia, vaikeita päivittää ja niihin voidaan hyökätä. Kun hyökkääjä pääsee käsiksi, peli on ohi.

Joskus on helpompi rakentaa uusi alusta kuin suunnitella uudelleen olemassa olevien järjestelmien digitaalisia komponentteja. Mutta tekoälyllä on rooli näiden järjestelmien turvaamisessa. Tekoälyä voidaan käyttää puolustautumiseen, jos joku yrittää vaarantaa heidät.

K: Todistit, että tekoälytutkimuksen keskeyttäminen, kuten jotkut ovat kehottaneet, olisi huono idea, koska se suosisi Kiinaa ja muita kilpailijoita. Mutta olet myös huolissasi päättömästä kiireestä tekoälytuotteisiin. Miksi?

V: Inhoan kuulostaa fatalistilta, mutta niin sanottu "polttava käyttö" -tapaus näyttää pätevän. Markkinoille syöksytty tuote syttyy usein tuleen (hakkeroituu, epäonnistuu, aiheuttaa tahattomia vahinkoja). Ja me sanomme: "Poika, meidän olisi pitänyt rakentaa turvallisuus." Odotan tekoälyn kehitysvauhdin kiihtyvän, emmekä ehkä pysähdy tarpeeksi tehdäksemme tätä turvallisella ja vastuullisella tavalla. Ainakin Valkoinen talo ja kongressi keskustelevat näistä asioista.

K: Näyttää siltä, ​​​​että joukko yrityksiä – myös puolustussektorilla – kiirehtii julkistamaan puolivalmistettuja tekoälytuotteita.

V: Jokainen teknologiayritys ja monet muut kuin teknologiayritykset ovat tehneet melkein järkyttävän käänteen kohti tekoälyä. Taloudelliset häiriöt ovat tulossa. Liiketoimintamallit muuttuvat perusteellisesti. Dislokaatioita tapahtuu jo tai ne ovat näköpiirissä – ja yritysjohtajat yrittävät olla jäämättä kiinni litteäjalkaisista.

K: Entä tekoälyn käyttö sotilaallisessa päätöksenteossa, kuten kohdistamisessa?

V: En, kategorisesti, usko, että tekoälyalgoritmit – keräämämme data – ovat valmiita parhaaseen aikaan, jotta tappava asejärjestelmä voisi tehdä päätöksiä. Olemme vain niin kaukana siitä.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoAiStream. Web3 Data Intelligence. Tietoa laajennettu. Pääsy tästä.
• Tulevaisuuden lyöminen Adryenn Ashley. Pääsy tästä.
• Osta ja myy osakkeita PRE-IPO-yhtiöissä PREIPO®:lla. Pääsy tästä.
• Lähde: https://www.defensenews.com/artificial-intelligence/2023/05/29/adversarial-ai-a-threat-to-military-systems-shift5s-lospinoso-says/