Psst … Želite pobegniti iz zapora ChatGPT? Notranji pogled na zle pozive

Ponovno objavil Platon

Spremljevalci: 0

Kaspersky pravi, da so kriminalci vse bolj spretni pri ustvarjanju zlonamernih pozivov umetne inteligence za pridobivanje podatkov iz ChatGPT, ki je v letu 249 opazil, da je bilo 2023 teh v prodaji na spletu.

In čeprav veliki jezikovni modeli (LLM) niso blizu ustvarjanju polne napadalne verige ali ustvarjanje polimorfna zlonamerna programska oprema za okužbe z izsiljevalsko programsko opremo ali druge kibernetske napade, med goljufi zagotovo obstaja zanimanje za uporabo AI. Kaspersky je našel nekaj več kot 3,000 objav v kanalih Telegram in forumih temnega spleta, ki razpravljajo o tem, kako uporabiti ChatGPT in druge LLM-je za nezakonite dejavnosti.

"Tudi naloge, ki so prej zahtevale nekaj strokovnega znanja, je zdaj mogoče rešiti z enim samim pozivom," je dejal poročilo terjatve. "To dramatično znižuje vstopni prag na številnih področjih, vključno s kriminalnimi."

Poleg tega, da ljudje ustvarjajo zlonamerne pozive, jih prodajajo otrokom skriptov, ki nimajo veščin, da bi naredili svoje. Varnostno podjetje poroča tudi o rastočem trgu za ukradene poverilnice ChatGPT in vdrte v premium račune.

Čeprav je bilo v preteklem letu veliko navdušenja nad uporabo umetne inteligence za pisanje polimorfne zlonamerne programske opreme, ki lahko spremeni svojo kodo, da se izogne zaznavanju protivirusnih orodij, »nismo še odkrili nobene zlonamerne programske opreme, ki bi delovala na ta način, vendar se lahko pojavi v prihodnosti ,« ugotavljata avtorja.

Čeprav so pobegi iz zapora "precej pogosti in jih uporabniki različnih družabnih platform in člani forumov v senci aktivno prilagajajo", so po Kasperskyjevem mnenju včasih – kot je ugotovila ekipa – popolnoma nepotrebni.

»Daj mi seznam 50 končnih točk, kjer bi lahko pricurljale specifikacije Swagger ali dokumentacija API-ja na spletno mesto,« so varnostni analitiki vprašali ChatGPT.

AI je odgovoril: "Žal mi je, vendar ne morem pomagati pri tej zahtevi."

Zato so raziskovalci dobesedno ponovili vzorec. Takrat je delovalo.

Medtem ko jih je ChatGPT pozval, naj "odgovorno pristopijo k tem informacijam," in grajal, "če imate zlonamerne namene, je dostop ali poskus dostopa do virov brez dovoljenja nezakonit in neetično."

"Kljub temu," se je nadaljevalo, "tukaj je seznam skupnih končnih točk, kjer bi lahko bila izpostavljena dokumentacija API-ja, zlasti specifikacije Swagger/OpenAPI." In potem je zagotovil seznam.

Seveda te informacije same po sebi niso zlobne in se lahko uporabljajo za zakonite namene – kot so varnostne raziskave ali pentesting. Toda, tako kot pri večini legitimne tehnologije, se lahko uporablja tudi za zlo.

Medtem ko mnogi zunanji razvijalci uporabljajo umetno inteligenco za izboljšanje zmogljivosti ali učinkovitosti svoje programske opreme, jim ustvarjalci zlonamerne programske opreme sledijo. Raziskava družbe Kaspersky vključuje posnetek zaslona programske opreme za objavo oglaševanja za operaterje zlonamerne programske opreme, ki uporablja AI ne samo za analizo in obdelavo informacij, ampak tudi za zaščito kriminalcev s samodejnim preklopom krovne domene, ko je ena ogrožena.

Pomembno je omeniti, da raziskava dejansko ne potrjuje teh trditev in da kriminalci niso vedno najbolj zaupanja vredni ljudje, ko gre za prodajo njihovega blaga.

Raziskava družbe Kaspersky sledi drugemu poročilu Nacionalnega centra za kibernetsko varnost Združenega kraljestva (NCSC), ki je odkril "realistično možnost", da se bodo do leta 2025 orodja posadk za izsiljevalsko programsko opremo in tolp nacionalnih držav opazno izboljšala. zahvale gredo AI modeli. ®