Taylor Swiftin syvät väärennetyt alastonkuvat kiinnittävät Yhdysvaltojen ja Microsoftin huomion

Taylor Swiftin syvät väärennetyt alastonkuvat kiinnittävät Yhdysvaltojen ja Microsoftin huomion

Aikaleima: 30. tammikuuta 2024 2
Lähdesolmu: 3089289

Väärennetyt seksuaalisesti avoimet tekoälyn luomat viruskuvat pop-kuningaskunnasta Taylor Swiftistä ovat hermostuneet, ja fanit, Microsoftin pomo ja jopa Valkoinen talo vaativat välittömiä toimia syväväärennösten torjumiseksi.

X-luokitellut kuvat, joihin Rekisteri ei linkitä, levitettiin verkossa viikonloppuna ja julkaistiin X:llä, keräten ainakin kymmeniä miljoonia katselukertoja. Deepfake-versiot ovat nostaneet ongelman ilman yksimielisiä tekoälyn syväväärennöksiä, kun swiftiesit – joista monet merkitsivät kuvat sopiviksi – olivat ilmeisesti pettyneitä kuultuaan, ettei tällaista sisältöä kiellä liittovaltion laki.

Äänemme ovat salainen aseemme, ja sanamme ovat kuin tehosteita Fortnitessa

Tämä tapaus tuli kauan myöhemmin aiempaa huolta vähemmän kuuluisia naisia ​​sisältävien seksuaalisten syväväärennösten tuotantoon ilman heidän suostumustaan. Nyt kun megatähti Taylor Swift on vedetty tähän suohon, se on punainen hälytys kaikkialla.

Valkoisen talon lehdistösihteeri Karine Jean-Pierre julisti, että kongressin "pitäisi ryhtyä lainsäädäntötoimiin" väärennettyjen NSFW-kuvien poistamiseksi. "Olemme huolestuneita raporteista ... kuvien leviämisestä, jotka juuri asetelitte - tarkemmin sanottuna vääristä kuvista, ja se on hälyttävää", hän kertoi ABC News.

Sillä välin Jean-Pierre kehotti sosiaalisen median sovelluksia, mukaan lukien X, poistamaan kuvat ja estämään niiden leviämisen verkossa.

"Vaikka sosiaalisen median yritykset tekevät itsenäisiä päätöksensä sisällönhallinnasta, uskomme, että niillä on tärkeä rooli omien sääntöjensä toimeenpanossa estääkseen väärän tiedon leviämisen ja oikeiden ihmisten intiimien mielikuvien leviämisen", hän lisäsi.

Twitter tai X esti jossain vaiheessa Taylor Swiftin haut kokonaan pysäyttääkseen väärennettyjen alastonjen virran, mikä nosti saarron viime yönä. Se ei ole estänyt tekoälyn luomia deepfakeja kiertämästä keskustelupalstoilla ja kuvatauluilla. Microsoftin toimitusjohtaja Satya Nadella – jonka IT-jätin tekstistä kuvaksi -työkalu Designer saattoi hyvinkin olla joita käytettiin väärien kuvien luomiseen, joita kutsutaan vääriksi kuviksi "hälyttäviksi ja kauheiksi".

"Meidän on toimittava", Nadella kertoi NBC News viittaa suojakaiteisiin, jotka on asennettava, jotta suunnittelija ei luo tällaista materiaalia.

”Uskon, että me kaikki hyödymme, kun verkkomaailma on turvallinen maailma. Ja siksi en usko, että kukaan haluaisi verkkomaailmaa, joka ei ole täysin turvallinen sekä sisällöntuottajille että sisällön kuluttajille. Siksi mielestäni meidän on edettävä nopeasti tässä."

Aiemmin tässä kuussa Joe Morelle (D-NY) ja Tom Kean (R-NJ), Yhdysvaltain edustajainhuoneen jäsenet, ottivat uudelleen käyttöön Preventing Deepfakes of Intimate Images Act -lain. Lasku Tavoitteena on kriminalisoida seksuaalisesti paljastavien ei-suostumustettujen tekoälykuvien luominen ja jakaminen, ja rangaistukset ovat jopa kymmenen vuotta vankeutta.

Morelle esitteli lainsäädännön mukana New Jerseyssä teini Francesca Mani ja hänen äitinsä Dorota, jotka olivat turhautuneita siitä, että he eivät voineet saada tukea seksuaalisen syvän väärennöskuvien käytön estämiseksi.

”Se, että olen teini-ikäinen, ei tarkoita, etteikö ääneni olisi voimakas. Pysyä hiljaa? Ei vaihtoehto. Meille annetaan ääniä haastaa, puhua kohtaamiamme epäoikeudenmukaisuuksia vastaan. Se, mitä minulle ja luokkatovereilleni tapahtui, ei ollut siistiä, enkä voi mitenkään vain kohauttaa olkapäitään ja antaa sen liukua." väitti Francesca.

"Olen täällä, seison ja huudan muutosta, taistelen lakien puolesta, jotta kenenkään muun ei tarvitse tuntea olevansa yhtä eksyksissä ja voimattomissa kuin minä 20. lokakuuta. Äänemme ovat salainen aseemme, ja sanamme ovat kuin voimavaroja Fortnite. Äitini ja minä puolustamme sellaisen maailman luomista, jossa turvassa oleminen ei ole vain toivo; se on todellisuutta kaikille."

Lakiesitys esiteltiin kongressille vuonna 2023 ja se siirrettiin edustajainhuoneen oikeuslaitoksen komitealle, vaikka toimenpiteisiin ei tuolloin ryhdytty. ®

Aikaleima:

Lisää aiheesta Rekisteri