Amerikaanse Senaat introduceert DEFIANCE Act om door AI gegenereerde, niet-consensuele deepfakes te bestrijden

De Senaat van de Verenigde Staten overweegt momenteel de Disrupt Explicit Forged Images and Non-Consensual Edits Act van 2024, beter bekend als de DEFIANCE Act. Dit tweeledige wetsvoorstel werd geïntroduceerd als reactie op de groeiende bezorgdheid over niet-consensuele, seksueel expliciete ‘deepfake’-afbeeldingen en -video’s, met name die gemaakt met behulp van kunstmatige intelligentie (AI). De introductie van deze wetgeving werd aanzienlijk gestimuleerd door recente incidenten waarbij sprake was van door AI gegenereerde expliciete beelden van zangeres Taylor Swift, die zich snel verspreidden over sociale-mediaplatforms.

De DEFIANCE Act heeft tot doel een federaal civiel rechtsmiddel te bieden aan slachtoffers die kunnen worden geïdentificeerd in deze ‘digitale vervalsingen’. Deze term wordt in de wetgeving gedefinieerd als visuele afbeeldingen die zijn gemaakt met behulp van software, machinaal leren, AI of andere door de computer gegenereerde middelen om ten onrechte authentiek te lijken. De wet zou de creatie, het bezit en de distributie van dergelijke niet-consensuele, door AI gegenereerde expliciete inhoud strafbaar stellen. Er zou ook een verjaringstermijn van tien jaar gelden, te rekenen vanaf het moment dat het onderwerp dat wordt afgebeeld in de niet-consensuele deepfake-inhoud zich bewust wordt van de afbeeldingen of 18 wordt.

De noodzaak van een dergelijke wet wordt onderstreept door een onderzoek uit 2019 waaruit bleek dat 96% van de deepfake-video’s pornografie zonder wederzijds goedvinden was, die vaak werd gebruikt om vrouwen uit te buiten en lastig te vallen, met name publieke figuren, politici en beroemdheden. De wijdverbreide verspreiding van deze deepfakes kan ernstige gevolgen hebben voor de slachtoffers, waaronder baanverlies, depressie en angst.

Momenteel bestaat er in de Verenigde Staten geen federale wet die specifiek de opkomst van digitaal vervalste pornografie naar het voorbeeld van echte mensen aanpakt, hoewel sommige staten zoals Texas en Californië hun eigen wetgeving hebben. Texas criminaliseert het creëren van illegale AI-inhoud, met mogelijke gevangenisstraffen voor overtreders, terwijl Californië slachtoffers toestaat een schadevergoeding te eisen.

De introductie van het wetsvoorstel komt op een moment dat de kwestie van seksuele uitbuiting op internet, vooral waarbij minderjarigen betrokken zijn, veel aandacht krijgt. De rechterlijke commissie van de Senaat onderzoekt in een hoorzitting getiteld ‘Big Tech and the Online Child Sexual Exploitation Crisis’ de rol van sociale-mediaplatforms bij de verspreiding van dergelijke inhoud en de noodzaak van wetgevende maatregelen.

Dit wetgevingsinitiatief benadrukt de groeiende bezorgdheid over het misbruik van AI-technologie bij het creëren van deepfake-inhoud en de behoefte aan wettelijke kaders om individuen tegen dergelijke uitbuiting en intimidatie te beschermen

Afbeeldingsbron: Shutterstock