Taylor Swift Deepfake Nakenbilder fångar USA, Microsofts uppmärksamhet

Återutgiven av Platon

anhängare: 0

Falska sexuellt explicita AI-genererade virala bilder av popkungligheten Taylor Swift har slagit på nerverna och fått fans, Microsofts chef och till och med Vita huset att uppmana till omedelbara åtgärder för att ta itu med deepfakes.

De X-klassade bilderna, till vilken Registret kommer inte att länka, cirkulerade online under helgen och publicerades på X, och fick minst tiotals miljoner visningar. Deepfakes har satt frågan om icke-samtycke explicit AI deepfakes i centrum eftersom Swifties – av vilka många flaggade bilderna som lämpliga – uppenbarligen blev besvikna över att få veta att det inte finns någon federal lag som förbjuder sådant innehåll.

Våra röster är vårt hemliga vapen, och våra ord är som power-ups i Fortnite

Den här händelsen kom långt efter tidigare oro över produktionen av sexuellt explicita deepfakes med mindre kända kvinnor utan deras medgivande. Nu när megastjärnan Taylor Swift har dragits in i detta grävmyr, är det rött alert överallt.

Vita husets pressekreterare Karine Jean-Pierre förklarade att kongressen "bör vidta lagstiftningsåtgärder" för att utplåna falska NSFW-bilder. "Vi är oroade över rapporterna om ... cirkulation av bilder som du just lagt ut - av falska bilder för att vara mer exakt, och det är alarmerande," hon berättade ABC News.

Under tiden uppmanade Jean-Pierre appar för sociala medier inklusive X att ta ner bilderna och förhindra att de sprids online.

"Medan sociala medieföretag fattar sina egna oberoende beslut om innehållshantering, tror vi att de har en viktig roll att spela för att upprätthålla sina egna regler för att förhindra spridning av desinformation och icke-samtycke, intima bilder av riktiga människor", tillade hon.

Twitter, eller X, blockerade vid ett tillfälle sökningar efter Taylor Swift helt för att stoppa flödet av falska nakenbilder, vilket hävde blockaden igår kväll. Det har inte hindrat de AI-genererade deepfakes att gå runt i chattrum och på bildtavlor. Microsofts vd Satya Nadella – vars IT-jättens text-till-bild-verktyg Designer kan mycket väl ha varit används för att skapa de falska bilderna – kallade de falska bilderna "alarmerande och fruktansvärda".

"Vi måste agera," Nadella berättade NBC News, med hänvisning till skyddsräcken som måste sättas på plats för att förhindra Designer från att skapa den här typen av material.

"Jag tror att vi alla tjänar på när onlinevärlden är en säker värld. Och så jag tror inte att någon skulle vilja ha en onlinevärld som är helt osäkra för både innehållsskapare och innehållskonsumenter. Så därför tycker jag att det ankommer på oss att gå snabbt vidare med detta."

Tidigare den här månaden återinförde Joe Morelle (D-NY) och Tom Kean (R-NJ), medlemmar av USA:s representanthus, lagen om att förebygga Deepfakes of Intimate Images. Räkningen syftar till att kriminalisera skapande och delning av sexuellt explicita AI-bilder utan samtycke, med straff på upp till tio års fängelse.

Morelle introducerade lagstiftningen tillsammans med New Jersey-tonåringen Francesca Mani och hennes mamma Dorota, som hade varit frustrerad över att inte kunna få något stöd för att förhindra användning av sexuellt explicita deepfake-bilder.

"Bara för att jag är tonåring betyder det inte att min röst inte är kraftfull. Håller du tyst? Inte ett alternativ. Vi får röster att utmana, att tala upp mot de orättvisor vi möter. Det som hände mig och mina klasskamrater var inte coolt, och det finns inget sätt att jag bara ska rycka på axlarna och låta det glida.” argued Francesca.

"Jag är här, står upp och skriker för förändring, kämpar för lagar så att ingen annan behöver känna sig så vilsen och maktlös som jag gjorde den 20 oktober. Våra röster är vårt hemliga vapen, och våra ord är som power-ups i Fortnite. Min mamma och jag förespråkar att skapa en värld där trygghet inte bara är ett hopp; det är verklighet för alla."

Lagförslaget presenterades för kongressen 2023 och hänvisades till parlamentets kommitté för rättsväsendet, även om inga åtgärder vidtogs då. ®