Senatorer bevæger sig imod AI Deepfakes med DEFIANCE Act

Genudgivet af Platon

Abonnenter: 0

Amerikanske senatorer har indført et lovforslag om to partier, der vil tillade ofre, der er portrætteret i ikke-godkendt AI-genererede pornografiske deepfakes, at sagsøge skaberne for erstatning.

Disrupt Explicit Forged Images and Non-Consensual Edits Act af 2024 (DEFIANCE Act) støttes af senatorerne Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) og Josh Hawley (R) -MO). Lovforslaget blev fremsat i tide til dagens grillning af social media CEO'er af Senatets retsudvalg vedrørende seksuel udnyttelse af børn online, og hvad der bliver gjort for at stoppe det.

Lovudkastets sponsorer citerer [PDF] en undersøgelse fra 2019, der hævder, at 96 procent af deepfake-videoer var pornografi uden samtykke – realistisk AI-genereret X-vurderet materiale lavet uden tilladelse eller samtykke fra de afbildede. Det er denne form for skrald – som kan bruges af ondsindede til at afpresse ofre eller ødelægge deres karrierer og forhold – som lovforslaget forventes at håndtere, hvis det nogensinde kommer igennem Kongressen og ind i lovbøgerne.

"Seksuelt eksplicit 'deepfake' indhold bruges ofte til at udnytte og chikanere kvinder - især offentlige personer, politikere og berømtheder," Senator Durbin sagde.

"Denne måned fejede falske, seksuelt eksplicitte billeder af Taylor Swift, der blev genereret af kunstig intelligens, hen over sociale medieplatforme. Selvom billederne kan være falske, er skaden på ofrene fra distributionen af seksuelt eksplicitte 'deepfakes' meget reel."

Twitter har netop ophævet sit midlertidige forbud mod at søge efter superstjernen singer-songwriter, efter at falske NSFW-billeder af hende gik viralt på det nu passende navn X. Det er ikke første – og bestemt ikke sidste gang – en kvindelig berømthed er blevet målrettet mod at skabe falske NSFW indhold. Den højtprofilerede sag har dog særligt rystede fans, tech CEO'er og endda Hvide Hus, der opfordrede Kongressen til at "tage lovgivningsmæssige foranstaltninger."

DEFIANCE Act lader ofre for intime AI-deepfakes uden samtykke tage civile søgsmål mod enhver, der har produceret, besidder eller har til hensigt at distribuere sådant materiale. Det ville skabe en forældelsesfrist på ti år, der starter efter, at emner, der er afbildet i deepfake-indhold uden samtykke, får kendskab til billederne, eller når de fylder 18.

Der er lige nu ingen føderal lov i Amerika, der tackler fremkomsten af digitalt forfalsket pornografi baseret på rigtige mennesker, selvom nogle stater har vedtaget deres egen lovgivning. Oprettelse af ulovligt AI-indhold er blevet kriminaliseret i Texas, og gerningsmændene risikerer op til et års fængsel. I mellemtiden kan ofre i Californien sagsøge om erstatning.

Sidste år blev et lignende lovforslag foreslået af Repræsentanter for Huset Joe Morelle (D-NY) og Tom Kean (R-NJ) gennemgået af en retsudvalg i Repræsentanternes Hus. Den foreslåede lov om forebyggelse af dybe forfalskninger af intime billeder havde til formål at kriminalisere oprettelse og deling af AI-genererede billeder uden samtykke, hvilket gør det til en strafbar handling med op til ti års fængsel.

Det udkast gjorde ingen væsentlige fremskridt, og Morelle og Kean har genindført deres lovforslag efter Swift-skandalen. ®