DARPA Launches Contest To Build AI Software Defenders

Taasavaldanud Platon

järgijaid: 0

Black Hat Tänasel Black Hati avaettekandel avaldas DARPA AIxCC-nimelist AI küberväljakutset. See on kaheaastane konkurss kaitsvate masinõppesüsteemide ehitamiseks, mis suudavad kaitsta tarkvara ja seega ka kriitilist infrastruktuuri.

Kolmapäeval algaval võistlusel pannakse meeskonnad vastamisi, et luua mudeleid, mis suudavad tuvastada koodi sees olevaid riske, blokeerida rünnakud nende haavatavuste vastu ja kõrvaldada need vead. Loodetakse, et need mudelid, mis on kunagi suutelised rakendusi üldiselt kaitsma, suudavad kaitsta IT-infrastruktuuri tarkvara tasemel.

Anthropic, OpenAI, Google ja Microsoft on lubanud pakkuda osalejatele nõu ja tarkvara kasutamiseks ning Open Source Security Foundation (OpenSSF) on samuti meeskonnas.

Rohkem tausta üksikasju, reegleid ja tähtaegu leiate siit.

"Selle tõuge pärineb DARPA-st ja kui pöördusime inimestega nagu Anthropic ja teised, ütlesid nad, et mõtlevad täpselt sama asja," rääkis AIxCC programmijuht Perri Adams. Register Las Vegases täna varem. Ta lisas, et see kõik tuleb kokku "kliimas, kus näeme fantastilist AI-tehnoloogiat".

"Paljud inimesed näevad, et AI-l on tohutu potentsiaal koodi turvamiseks ja see oli tõesti suurepärane võimalus," lisas ta. „Keskendume sellele, et püüame kindlustada võimalikult suure hulga tarkvara. Seega proovime väljakutseid modelleerida üldotstarbelise tarkvaraga, sest just seda leiame kriitilistes infrastruktuurisüsteemides.

Perri Adams, DARPA AIxCC programmijuht, ütleb Black Hati osalejatele, et laual on miljoneid

USA sõjaväe teadusuuringute närvikeskus DARPA kutsub osalema soovijaid registreeruma kas omafinantseeritavale avatud rajale või rahastatud rajale, millest viimane võtab vastu kuni seitse valitud väikeettevõtet, kes saavad osaleda. antakse igaühele võistlemiseks miljon dollarit. Rahastatud partitsioonile tuleb registreeruda 1. septembriks, avatud raja võistlejatel on aga registreerumiseks aega kuni 19. detsembrini.

2024. aasta kevadel võistlevad meeskonnad katsete seerias, et selgitada välja sobivus poolfinaalvõistlusele, kus 20 parimat meeskonda võistlevad järgmise aasta DEF CON konverentsil. Selle võistluse viis parimat meeskonda saavad auhinnaraha 2 miljonit dollarit.

Järgmisel aastal, 2025. aastal toimuval DEF CON-il, võistlevad viimased viis inimest 4 miljoni dollari suuruse peaauhinna nimel, 3 miljonit dollarit teise ja 1.5 miljonit dollarit kolmanda koha eest. Võistkondadel peab osalemiseks olema vähemalt üks USA alaline elanik või kodanik.

See on kokku 18.5 miljonit dollarit ja 7 miljonit dollarit väikestele ettevõtetele.

"Kui inimesed kuulevad turvalisust ja tehisintellekti, hakkavad kõik sünapsid vallandama, kuid see ei keskendu küsimusele, kas mudel on turvaline, vaid oletame, et meil on see hämmastav tööriist nimega AI. Kuidas me seda nüüd laiaulatuslikult rakendada. tarkvara”, ütles OpenSSFi peadirektor Omkhar Arasaratnam.

"Kui olete tarkvarainsener ja kasutate zlib-i oma telefonis või Linuxi distributsioonis oma töölaual, on see ikkagi zlib ja me peame tagama, et kehtiksid samad turbeomadused."

See lähenemine on integreeritud AIxCC-sse: koodi kaitsmine kõikjal, kus see ka poleks, või nii meile tundub.

Nii palju musti kaste

AI oli täna läbivaks teemaks. Teine Black Hat peaesineja Maria Markstedter, Arm Code spetsialisti Azeria Labsi asutaja, hoiatas tulevik paistis masinõppetehnoloogiate turvalisuse osas ebakindel kahe teguri tõttu: tööstuse soov kiiresti liikuda ja asju lõhkuda ning sisemiste tehniliste üksikasjade puudumine turvaspetsialistide jaoks.

See tähendab, et mõned organisatsioonid tormavad mudeleid reaalsetesse stsenaariumidesse viisil, mis võib inimesi ohtu seada, ning mudelite väljaõpetamist ja kasutuselevõttu hoitakse saladuses või on lihtsalt raske järgida. Kõik see pole infoseci teadlastele ning lõppkasutajatele ja administraatoritele suurepärane olukord.

"Ettevõtte AI võidurelvastumine on alanud," arvas Markstedter. "Selles esirinnas on loomulikult Microsoft."

Ta märkis, et veebruaris kiitis Microsofti tegevjuht Satya Nadella, et tema ettevõte kavatseb selles valdkonnas kiiresti edasi liikuda, ja lisas, et Redmondi tegevjuht Sam Schillace oli ühtlane. tsiteeritud Nagu öeldakse, oleks "täiesti saatuslik viga praegusel hetkel muretseda asjade pärast, mida saab hiljem parandada." Kõik, kes on Windowsi plaastreid rakendanud, teavad seda liiga hästi.

Loodame, et ML ei alga nii nagu nutitelefonid. Markstedter ütles, et varased mudelid käitasid kõike juurjuurdepääsuga, need olid täis kriitilisi vigu, neil oli väga vähe parandusvõimalusi ja andmeid ei kasutatud liivakasti.

Muudatused tulid seetõttu, et turvatöötajad said telefonid füüsiliselt ja koodipõhiselt lahti võtta, näha, kuidas need töötavad, leida vigu ja näidata tootjatele, kus neil on vaja oma mängu täiustada. Sama ei ole võimalik musta kasti tehisintellekti toodetega, soovitas ta.

Asja teeb hullemaks see, et kui koolitusandmed on veebist hulgimüügist eemaldatud, on tänapäevased suured tehisintellekti virnad "nagu mannekeen, kes usub kõike, mida nad Internetist loevad", ütles ta. Lisaks on uuringud näidanud, et koolituse andmekogumite mürgitamine võib avaldada tohutut mõju ML-süsteemide täpsusele ja toimimisele.

"Me ei tea, milline see olukord praegu välja võib näha," hoiatas ta. „Suurim probleem ei ole nende väljakutsete olemasolu; meie probleem on selles, et meil pole piisavalt inimesi, kellel on nende lahendamiseks vajalikud oskused. ®