Senatorer går emot AI Deepfakes med DEFIANCE Act

Återutgiven av Platon

anhängare: 0

Amerikanska senatorer har infört ett lagförslag för två partier som skulle tillåta offer som porträtteras i AI-genererade pornografiska djupförfalskningar utan samtycke att stämma skaparna på skadestånd.

Disrupt Explicit Forged Images and Non-Consensual Edits Act från 2024 (DEFIANCE Act) stöds av senatorerna Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) och Josh Hawley (R) -MO). Lagförslaget lades fram lagom till dagens grillning av vd:ar för sociala medier av senatens rättsutskott angående sexuellt utnyttjande av barn på nätet och vad som görs för att stoppa det.

Lagförslagets sponsorer citerar [PDF] en studie från 2019 som hävdade att 96 procent av deepfake-videorna var pornografi utan samtycke – realistiskt AI-genererat X-klassat material som gjorts utan tillstånd eller samtycke från de avbildade. Det är den här typen av skräp – som kan användas av skurkar för att utpressa offer eller förstöra deras karriärer och relationer – som lagförslaget förväntas ta itu med, om det någonsin kommer igenom kongressen och in i lagböckerna.

"Sexuellt explicit 'deepfake' innehåll används ofta för att utnyttja och trakassera kvinnor - särskilt offentliga personer, politiker och kändisar," senator Durbin sade.

"Den här månaden svepte falska, sexuellt explicita bilder av Taylor Swift som genererades av artificiell intelligens över sociala medieplattformar. Även om bilderna kan vara falska, är skadorna på offren från spridning av sexuellt explicita "deepfakes" mycket verklig."

Twitter har precis upphävt sitt tillfälliga förbud för personer som söker efter superstjärnans singer-songwriter efter att falska NSFW-bilder av henne blev virala på det nu passande namnet X. Det är inte första – och definitivt inte sista gången – en kvinnlig kändis har blivit föremål för att skapa falska NSFW-innehåll. Det högprofilerade fallet har dock särskilt förskräckta fans, tekniska VD:ar och till och med VITA HUSET, som uppmanade kongressen att "vidta lagstiftningsåtgärder."

DEFIANCE Act låter offer för intima AI deepfakes utan samtycke vidta civilrättsliga åtgärder mot alla som producerat, innehar eller avser att distribuera sådant material. Det skulle skapa en preskriptionstid på tio år som börjar efter det att ämnen som avbildas i djupt falskt innehåll utan samtycke lärt sig om bilderna eller när de fyller 18 år.

Det finns just nu ingen federal lag i Amerika som tar itu med framväxten av digitalt förfalskad pornografi som bygger på riktiga människor, även om vissa stater har antagit sin egen lagstiftning. Skapandet av olagligt AI-innehåll har kriminaliserats i Texas, och förövarna kan riskera upp till ett års fängelse. Samtidigt kan offer i Kalifornien begära skadestånd.

Förra året granskades ett liknande lagförslag som föreslagits av husrepresentanterna Joe Morelle (D-NY) och Tom Kean (R-NJ) av en domstolskommitté i parlamentet. Den föreslagna lagen om förebyggande av djupa falska bilder syftade till att kriminalisera skapande och delning av bilder som genereras av AI utan samtycke, vilket gör det till ett straffbart brott med upp till tio års fängelse.

Det utkastet gjorde inga betydande framsteg, och Morelle och Kean har återinfört sitt lagförslag efter Swift-skandalen. ®