Taiteilijat voivat nyt myrkyttää kuvansa estääkseen tekoälyn väärinkäytön

Julkaissut Platon

seuraajia: 0

Chicagon yliopiston boffins julkaisi tällä viikolla Nightshade 1.0:n, työkalun, joka on suunniteltu rankaisemaan häikäilemättömiä koneoppimismallien tekijöitä, jotka kouluttavat järjestelmiään datalla ilman lupaa.

Belladonna on hyökkäävä datamyrkytystyökalu, joka on kumppani puolustavalle tyylisuojaustyökalulle Glaze, Joka Rekisteri katettu viime vuoden helmikuussa.

Nightshade myrkyttää kuvatiedostoja aiheuttaakseen ruoansulatushäiriöitä malleille, jotka nielevät tietoja ilman lupaa. Tarkoituksena on saada nämä koulutuskuvalliset mallit kunnioittamaan sisällöntuottajien toiveita työnsä käytöstä.

"Nightshade on laskettu usean tavoitteen optimoinniksi, joka minimoi alkuperäisen kuvan näkyvät muutokset." sanoi projektista vastaava tiimi.

”Esimerkiksi ihmissilmät voivat nähdä varjostetun kuvan lehmästä vihreällä kentällä suurelta osin muuttumattomana, mutta tekoälymalli saattaa nähdä suuren nahkalaukun makaamassa nurmikolla. "

Nightshaden kehittivät Chicagon yliopiston tohtoriopiskelijat Shawn Shan, Wenxin Ding ja Josephine Passananti sekä professorit Heather Zheng ja Ben Zhao, joista osa auttoi myös Glazen kanssa.

Kuvattu kohdassa tutkimus paperi lokakuussa 2023 Nightshade on pikaspesifinen myrkytyshyökkäys. Kuvan myrkyttämiseen liittyy tarran (esim. kissa) poimiminen, joka kuvaa todellisuudessa kuvattua, jotta käsitteen rajat hämärtyvät, kun kuva joutuu mallikoulutukseen.

Joten Nightshaden myrkytettyihin kuviin koulutetun mallin käyttäjä voi lähettää kehotteen kissasta ja saada ilmoituksen koiran tai kalan kuvasta. Tämänkaltaiset arvaamattomat vastaukset tekevät tekstistä kuvaksi -malleista huomattavasti vähemmän hyödyllisiä, mikä tarkoittaa, että mallintekijöillä on kannustin varmistaa, että he harjoittelevat vain vapaasti tarjottua dataa.

"Nightshade voi tarjota tehokkaan työkalun sisällön omistajille suojaamaan immateriaaliomaisuuttaan mallikouluttajilta, jotka eivät huomioi tai jättävät huomiotta tekijänoikeusilmoitukset, älä raappaa/indeksoi -ohjeita ja opt-out-luetteloita", kirjoittajat toteavat artikkelissaan.

Taideteosten tekijöiden ja omistajien toiveiden huomioimatta jättäminen johti oikeudenkäyntiin jätetty viime vuonna, osa laajempaa torjuntaa tekoälyyritysten hyväksi tapahtuvaa luvatonta tiedonkeruuta vastaan. Loukkausvaatimus, joka on esitetty useiden taiteilijoiden puolesta Stability AI:tä, Deviant Artia ja Midjourneyta vastaan, väittää, että vastaajayritysten käyttämä Stable Diffusion -malli sisältää taiteilijoiden teoksia ilman lupaa. Tapausta muutettiin marraskuussa 2023 siten, että siihen lisättiin uusi vastaaja, Runway AI, jatkuu oikeudenkäyntiin.

Kirjoittajat varoittavat, että Nightshadella on joitain rajoituksia. Tarkemmin sanottuna ohjelmistolla käsitellyt kuvat voivat poiketa hienovaraisesti alkuperäisistä, erityisesti kuvitus, joka käyttää tasaisia värejä ja tasaisia taustoja. He havaitsevat myös, että Nightshaden kumoamistekniikoita voidaan kehittää, vaikka he uskovat voivansa mukauttaa ohjelmistonsa pysymään vastatoimien tahdissa.

Albertan yliopiston tietojenkäsittelytieteen apulaisprofessori Matthew Guzdial sanoi sosiaalisessa mediassa posti, "Tämä on siistiä ja ajankohtaista työtä! Mutta olen huolissani siitä, että sitä liiataan ratkaisuna. Se toimii vain CLIP-pohjaisten mallien kanssa ja tekijöiden mukaan vaatisi 8 miljoonaa "myrkytyskuvaa", jotta sillä olisi merkittävä vaikutus samanlaisten kuvien luomiseen LAION-malleille."

Glaze, joka saavutti 1.0 viime kesäkuussa, on web-versio, ja on nyt käytössä 1.1.1 vapautetaan, muuttaa kuvia estääkseen näille kuville koulutetut mallit toistamasta taiteilijan visuaalista tyyliä.

Tyylin matkiminen – saatavilla suljetuissa tekstistä kuvaksi -palveluissa, kuten Midjourney, ja avoimen lähdekoodin malleissa, kuten Stable Diffusion, on mahdollista yksinkertaisesti kehottamalla tekstistä kuvaksi -mallia tuottamaan kuvan tietyn taiteilijan tyyliin.

Tiimi uskoo, että taiteilijoilla pitäisi olla keino estää visuaaliset tyylinsä vangitseminen ja toistaminen.

"Tyylimimikri tuottaa useita haitallisia seurauksia, jotka eivät ehkä ole ilmeisiä ensi silmäyksellä", Boffins toteaa. "Taiteilijoille, joiden tyylejä kopioidaan tarkoituksella, he eivät vain näe palkkioiden ja perustulojen menetystä, vaan myös verkossa hajallaan olevat heikkolaatuiset synteettiset kopiot laimentavat heidän brändiään ja mainettaan. Mikä tärkeintä, taiteilijat yhdistävät tyylinsä identiteettiinsä."

He vertaavat tyylimimikriä identiteettivarkauksiin ja sanovat, että se estää taiteilijoita luomasta uutta.

Tiimi suosittelee, että taiteilijat käyttävät sekä Nightshadea että Glazea. Tällä hetkellä molemmat työkalut on ladattava ja asennettava erikseen, mutta yhdistetty versio on kehitteillä. ®