Kunstnikud saavad nüüd oma pilte mürgitada, et hoida ära AI väärkasutust

Taasavaldanud Platon

järgijaid: 0

Chicago ülikool boffins andis sel nädalal välja Nightshade 1.0 – tööriista, mis on loodud selleks, et karistada hoolimatuid masinõppemudelite tegijaid, kes treenivad oma süsteeme andmete põhjal ilma selleks eelnevalt luba saamata.

Öövari on solvav andmemürgituse tööriist, mis on kaitsva stiili kaitsevahendi kaaslane Klaas, Mis Register kaetud eelmise aasta veebruaris.

Nightshade mürgitab pildifaile, et tekitada loata andmeid alla neelavatele mudelitele seedehäired. Selle eesmärk on panna need koolituse pildile orienteeritud mudelid austama sisuloojate soove oma töö kasutamise kohta.

"Nightshade on arvutatud mitme eesmärgiga optimeerimisena, mis minimeerib algse pildi nähtavaid muudatusi." ütles projekti eest vastutav meeskond.

"Näiteks võivad inimsilmad näha varjutatud pilti lehmast rohelisel väljal suures osas muutumatuna, kuid tehisintellekti mudel võib näha rohus lebavat suurt nahast rahakotti. “

Nightshade'i töötasid välja Chicago ülikooli doktorandid Shawn Shan, Wenxin Ding ja Josephine Passananti ning professorid Heather Zheng ja Ben Zhao, kellest mõned aitasid ka Glaze'i valmistamisel.

Kirjeldatud a uurimustöö 2023. aasta oktoobris on Nightshade kiire spetsiifiline mürgistusrünnak. Kujutise mürgitamine hõlmab sildi (nt kassi) valimist, mis kirjeldab seda, mida tegelikult kujutatakse, et hägustada selle kontseptsiooni piire, kui pilt võetakse modellikoolituse jaoks alla.

Seega võib Nightshade'i mürgitatud piltide järgi treenitud modelli kasutaja esitada kassi viipa ja saada teate koera või kala kujutisest. Seda tüüpi ettearvamatud reaktsioonid muudavad tekstist pildiks muutmise mudelid oluliselt vähem kasulikuks, mis tähendab, et mudelitootjatel on stiimul tagada, et nad treeniksid ainult vabalt pakutud andmete põhjal.

"Nightshade võib olla sisuomanikele võimas tööriist, et kaitsta oma intellektuaalomandit modellikoolitajate eest, kes eiravad või ignoreerivad autoriõiguste märguandeid, mitte kraapimise/roomimise juhiseid ja loobumisloendeid," märgivad autorid oma artiklis.

Kunstiteoste loojate ja omanike soovidega arvestamata jätmine tõi kaasa kohtuasja esitati eelmisel aastal, mis on osa laiemast tagasilöögist tehisintellekti ettevõtete hüvanguks tehtava loata andmete kogumise vastu. Rikkumise nõue, mis esitati mitme kunstniku nimel ettevõtetele Stability AI, Deviant Art ja Midjourney, väidetakse, et kostjafirmade kasutatav Stable Diffusion mudel hõlmab kunstnike töid ilma loata. Juhtumit muudeti 2023. aasta novembris, et lisada uus kostja, Runway AI, pidev kohtusse kaevata.

Autorid hoiatavad, et Nightshade'il on mõned piirangud. Täpsemalt võivad tarkvaraga töödeldud pildid originaalist pisut erineda, eriti kunstiteosed, mis kasutavad lamedaid värve ja sileda tausta. Samuti märgivad nad, et võidakse välja töötada tehnikaid Nightshade'i tühistamiseks, kuigi nad usuvad, et suudavad oma tarkvara kohandada, et vastumeetmetega sammu pidada.

Alberta ülikooli arvutiteaduse dotsent Matthew Guzdial ütles sotsiaalmeedias pärast, “See on lahe ja õigeaegne töö! Kuid ma kardan, et seda lahendusena liialdatakse. See töötab ainult CLIP-põhiste mudelitega ja nõuab autorite sõnul 8 miljonit mürgitatud pilti, et avaldada märkimisväärset mõju LAIONi mudelite jaoks sarnaste piltide loomisele.

Glasuur, mis jõudis mullu juunis 1.0-ni, on veebiversioon, ja on nüüd saadaval 1.1.1 vabastamine, muudab pilte, et nende piltide järgi treenitud mudelid ei jäljendaks kunstniku visuaalset stiili.

Stiili mimikri – saadaval suletud tekst-pildiks teenuste (nt Midjourney) ja avatud lähtekoodiga mudelite (nt Stable Diffusion) kaudu – on võimalik lihtsalt siis, kui palub teksti-pildiks mudelil luua konkreetse kunstniku stiilis pilt.

Meeskond usub, et kunstnikel peaks olema võimalus takistada oma visuaalsete stiilide jäädvustamist ja reprodutseerimist.

"Stiili miimika toob kaasa mitmeid kahjulikke tagajärgi, mis ei pruugi esmapilgul ilmselged olla," nendivad Boffins. „Kunstnikele, kelle stiile on tahtlikult kopeeritud, ei näe nad mitte ainult vahendustasude ja põhisissetuleku kaotust, vaid ka veebis hajutatud madala kvaliteediga sünteetilised koopiad lahjendavad nende kaubamärki ja mainet. Kõige tähtsam on see, et kunstnikud seostavad oma stiile oma identiteediga.

Nad võrdlevad stiili matkimist identiteedivargusega ja väidavad, et see pärsib pürgivaid kunstnikke uusi teoseid looma.

Meeskond soovitab kunstnikel kasutada nii Nightshade'i kui ka Glaze'i. Praegu tuleb need kaks tööriista eraldi alla laadida ja installida, kuid koostatakse kombineeritud versioon. ®