Senatorer beveger seg mot AI Deepfakes med DEFIANCE Act

Publisert av Platon

Følgere: 0

Amerikanske senatorer har innført et lovforslag for to partier som vil tillate ofre som er fremstilt i AI-genererte pornografiske deepfakes uten samtykke, å saksøke skaperne for erstatning.

Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024 (DEFIANCE Act) støttes av senatorene Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) og Josh Hawley (R) -MO). Lovforslaget ble fremmet i tide til dagens grilling av administrerende direktører i sosiale medier av Senatets rettskomité angående seksuell utnyttelse av barn på nettet og hva som gjøres for å stoppe det.

Lovutkastets sponsorer siterer [PDF] en studie fra 2019 som hevdet at 96 prosent av deepfake-videoene var pornografi uten samtykke – realistisk AI-generert X-vurdert materiale laget uten tillatelse eller samtykke fra de avbildede. Det er denne typen søppel – som kan brukes av ondsinnede for å presse ofre eller ødelegge deres karrierer og forhold – som lovforslaget forventes å håndtere, hvis det noen gang kommer gjennom Kongressen og inn i lovbøkene.

"Seksuelt eksplisitt 'dypfalsk' innhold brukes ofte for å utnytte og trakassere kvinner - spesielt offentlige personer, politikere og kjendiser," senator Durbin sa.

"Denne måneden feide falske, seksuelt eksplisitte bilder av Taylor Swift som ble generert av kunstig intelligens over sosiale medieplattformer. Selv om bildene kan være falske, er skaden på ofrene fra distribusjon av seksuelt eksplisitte «deepfakes» svært reell.»

Twitter opphevet nettopp sitt midlertidige forbud mot søkere etter superstjernen singer-songwriteren etter at falske NSFW-bilder av henne gikk viralt på den nå treffende navnet X. Det er ikke første – og definitivt ikke siste gang – en kvinnelig kjendis har blitt målrettet mot å lage falske NSFW-innhold. Den høyprofilerte saken har imidlertid spesielt forferdede fans, tekniske administrerende direktører og til og med White House, som oppfordret kongressen til å «ta lovgivende tiltak».

DEFIANCE Act lar ofre for intime AI-deepfakes uten samtykke ta sivile søksmål mot alle som har produsert, besitter eller har til hensikt å distribuere slikt materiale. Det ville opprette en foreldelsesfrist på ti år som starter etter at emner avbildet i dypt falskt innhold uten samtykke får vite om bildene eller fra når de fyller 18.

Det er akkurat nå ingen føderal lov i Amerika som takler fremveksten av digitalt forfalsket pornografi basert på ekte mennesker, selv om noen stater har vedtatt sin egen lovgivning. Opprettelsen av ulovlig AI-innhold har blitt kriminalisert i Texas, og gjerningsmennene kan risikere opptil ett års fengsel. I mellomtiden kan ofre i California saksøke om erstatning.

I fjor ble et lignende lovforslag foreslått av husrepresentantene Joe Morelle (D-NY) og Tom Kean (R-NJ) gjennomgått av en rettskomité i huset. Den foreslåtte loven om å forhindre dype forfalskninger av intime bilder tok sikte på å kriminalisere opprettelse og deling av AI-genererte bilder uten samtykke, noe som gjør det til en straffbar handling med opptil ti års fengsel.

Det utkastet gjorde ingen betydelig fremgang, og Morelle og Kean har gjeninnført lovforslaget sitt etter Swift-skandalen. ®