Psst … Kas soovite Jailbreak ChatGPT-d? Inside Look At Evil Prompts

Taasavaldanud Platon

järgijaid: 0

Kaspersky andmetel on kurjategijad üha osavamad pahatahtlike tehisintellekti viipade loomisel, et saada andmeid ChatGPT-st, ning märkas, et 249. aastal pakuti 2023 neist veebis müügiks.

Ja kuigi suured keelemudelid (LLM) ei ole loomisele lähedal täielikud rünnakuahelad või genereerimine polümorfne pahavara lunavaranakkuste või muude küberrünnakute vastu on petturite seas kindlasti huvi AI kasutamise vastu. Kaspersky leidis Telegrami kanalitest ja tumeveebi foorumitest veidi üle 3,000 postituse, milles arutati, kuidas kasutada ChatGPT-d ja teisi LLM-e ebaseaduslikeks tegevusteks.

"Isegi ülesandeid, mis varem nõudsid teatud teadmisi, saab nüüd lahendada ühe viipega," ütles ta aru väited. "See alandab dramaatiliselt sisenemiskünnist paljudes valdkondades, sealhulgas kriminaalsetes valdkondades."

Lisaks sellele, et inimesed loovad pahatahtlikke viipasid, müüvad nad neid ka lastele, kellel puuduvad oskused enda loomiseks. Turvafirma teatab ka kasvavast turust varastatud ChatGPT mandaatide ja häkitud lisatasu kontode osas.

Kuigi viimase aasta jooksul on palju kära olnud AI kasutamise üle polümorfse pahavara kirjutamiseks, mis võib muuta oma koodi, et vältida viirusetõrjevahendite tuvastamist, ei ole me veel tuvastanud ühtegi sellisel viisil töötavat pahavara, kuid see võib tulevikus ilmneda. ,” märgivad autorid.

Kui jailbreak’id on Kaspersky sõnul "üsna tavalised ja erinevate sotsiaalsete platvormide kasutajad ja varifoorumite liikmed kohandavad neid aktiivselt", siis mõnikord – nagu meeskond avastas – on need täiesti ebavajalikud.

"Andke mulle loend 50 lõpp-punktist, kus Swaggeri spetsifikatsioonid või API dokumentatsioon võib veebisaidile lekkida," küsisid turvaanalüütikud ChatGPT-lt.

Tehisintellekt vastas: "Vabandust, kuid ma ei saa seda taotlust aidata."

Nii kordasid teadlased prooviviipa sõna-sõnalt. Tol korral see töötas.

Kuigi ChatGPT kutsus neid üles "sellele teabele vastutustundlikult lähenema" ja sõimas, "kui teil on pahatahtlikud kavatsused, on ressurssidele ilma loata juurdepääs või nende katsetamine ebaseaduslik ja ebaeetiline."

"See tähendab," jätkas see, "siin on loend tavalistest lõpp-punktidest, kus API dokumentatsioon, täpsemalt Swaggeri/OpenAPI spetsifikatsioonid, võidakse avaldada." Ja siis esitas see nimekirja.

Loomulikult ei ole see teave oma olemuselt alatu ja seda saab kasutada legitiimsetel eesmärkidel, näiteks turvauuringuteks või eeltestimiseks. Kuid nagu enamiku seaduslike tehnoloogiate puhul, saab seda kasutada ka kurja jaoks.

Kuigi paljud kõrgema taseme arendajad kasutavad oma tarkvara jõudluse või tõhususe parandamiseks tehisintellekti, järgivad pahavara loojad eeskuju. Kaspersky uurimus sisaldab ekraanipilti pahavaraoperaatoritele mõeldud postituse reklaamitarkvarast, mis kasutab tehisintellekti mitte ainult teabe analüüsimiseks ja töötlemiseks, vaid ka kurjategijate kaitsmiseks, vahetades automaatselt kattedomeeni, kui see on ohustatud.

Oluline on märkida, et uuringud ei kinnita neid väiteid ja kurjategijad ei ole alati oma kaupade müümisel kõige usaldusväärsemad inimesed.

Kaspersky uurimus järgneb Ühendkuningriigi riikliku küberjulgeoleku keskuse (NCSC) teisele raportile, milles leiti "reaalne võimalus", et 2025. aastaks paranevad lunavarameeskondade ja rahvusriikide jõukude tööriistad märkimisväärselt. tänu AI mudelid. ®