Senatoren treden op tegen AI-deepfakes met DEFIANCE Act

Heruitgegeven door Plato

volgers: 0

Amerikaanse senatoren hebben een tweeledig wetsvoorstel ingediend dat het mogelijk maakt dat slachtoffers die worden afgebeeld in niet-consensuele AI-gegenereerde pornografische deepfakes de makers voor schadevergoeding kunnen aanklagen.

De Disrupt Explicit Forged Images and Non-Consensual Edits Act van 2024 (DEFIANCE Act) wordt gesteund door senatoren Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) en Josh Hawley (R -MO). Het wetsvoorstel werd op tijd voor vandaag ingediend grillen van CEO's van sociale media door de rechterlijke commissie van de Senaat over de seksuele uitbuiting van kinderen online en wat er wordt gedaan om dit te stoppen.

De sponsors van het wetsontwerp citeren [PDF] een onderzoek uit 2019 waarin wordt beweerd dat 96 procent van de deepfake-video's pornografie zonder wederzijdse toestemming was: realistisch door AI gegenereerd X-rated materiaal gemaakt zonder de toestemming of toestemming van de afgebeelde personen. Het is dit soort onzin – dat door onverlaten kan worden gebruikt om slachtoffers af te persen of hun carrière en relaties te ruïneren – dat het wetsvoorstel naar verwachting zal aanpakken, als het ooit door het Congres en in de wetboeken komt.

“Seksueel expliciete ‘deepfake’-inhoud wordt vaak gebruikt om vrouwen uit te buiten en lastig te vallen – vooral publieke figuren, politici en beroemdheden,” zei senator Durbin zei.

“Deze maand verspreidden nep-, seksueel expliciete beelden van Taylor Swift, gegenereerd door kunstmatige intelligentie, zich over sociale mediaplatforms. Hoewel de beelden nep kunnen zijn, is de schade voor de slachtoffers als gevolg van de verspreiding van seksueel expliciete ‘deepfakes’ zeer reëel.”

Twitter heeft zojuist zijn tijdelijke verbod op zoekers naar de superster singer-songwriter opgeheven nadat nep-NSFW-afbeeldingen van haar viraal gingen op de nu toepasselijk genaamde X. Het is niet de eerste – en zeker niet de laatste keer – dat een vrouwelijke beroemdheid het doelwit is geworden om nep-foto’s te maken NSFW-inhoud. De spraakmakende zaak heeft echter vooral geschokte fans, technologie-CEO's en zelfs de Witte Huis, die er bij het Congres op aandrong ‘wetgevende maatregelen te nemen’.

De DEFIANCE Act biedt slachtoffers van intieme AI-deepfakes zonder wederzijds goedvinden de mogelijkheid civiele stappen te ondernemen tegen iedereen die dergelijk materiaal heeft geproduceerd, in bezit heeft of van plan is dit te verspreiden. Er zou een verjaringstermijn van tien jaar in het leven worden geroepen die ingaat nadat proefpersonen die in deepfake-inhoud zonder wederzijds goedvinden worden afgebeeld, van de beelden kennis krijgen of vanaf hun 18e.

Er bestaat op dit moment in Amerika geen federale wet die de opkomst van digitaal vervalste pornografie naar het voorbeeld van echte mensen aanpakt, hoewel sommige staten hun eigen wetgeving hebben aangenomen. Het creëren van illegale AI-inhoud is in Texas strafbaar gesteld en daders kunnen een gevangenisstraf van maximaal een jaar tegemoet zien. Ondertussen kunnen slachtoffers in Californië een schadevergoeding eisen.

Vorig jaar werd een soortgelijk wetsvoorstel, voorgesteld door de vertegenwoordigers van het Huis van Afgevaardigden Joe Morelle (D-NY) en Tom Kean (R-NJ), beoordeeld door een rechterlijke commissie van het Huis. De voorgestelde Wet ter voorkoming van deepfakes van intieme afbeeldingen had tot doel het creëren en delen van niet-consensuele, door AI gegenereerde afbeeldingen strafbaar te stellen, waardoor dit strafbaar wordt gesteld met maximaal tien jaar gevangenisstraf.

Dat ontwerp boekte geen noemenswaardige vooruitgang, en Morelle en Kean hebben hun wetsvoorstel opnieuw ingediend na het Swift-schandaal. ®