USA:s senat inför DEFIANCE Act för att bekämpa AI-genererade icke-samtycke

Den amerikanska senaten överväger för närvarande lagen om Disrupt Explicit Forged Images and Non-Consensual Edits från 2024, allmänt känd som DEFIANCE Act. Detta tvåpartilag infördes som svar på den växande oron över icke-samtycke, sexuellt explicita "deepfake" bilder och videor, särskilt de som skapats med hjälp av artificiell intelligens (AI). Införandet av denna lagstiftning drevs avsevärt fram av de senaste incidenterna med AI-genererade explicita bilder av sångerskan Taylor Swift, som spreds snabbt över sociala medieplattformar.

DEFIANCE Act syftar till att tillhandahålla ett federalt civilrättsligt botemedel för offer som kan identifieras i dessa "digitala förfalskningar." Denna term definieras i lagstiftningen som visuella skildringar skapade med programvara, maskininlärning, AI eller andra datorgenererade metoder för att felaktigt framstå som autentiska. Lagen skulle kriminalisera skapandet, innehavet och distributionen av sådant explicit innehåll som genererats av AI utan samtycke. Det skulle också fastställa en preskriptionstid på tio år, från det att ämnet som avbildas i det djupfalska innehållet utan samtycke blir medveten om bilderna eller fyller 18 år.

Behovet av en sådan lag understryks av en studie från 2019 som fann att 96 % av deepfake-videorna var pornografi utan samtycke, som ofta användes för att utnyttja och trakassera kvinnor, särskilt offentliga personer, politiker och kändisar. Den utbredda spridningen av dessa deepfakes kan leda till allvarliga konsekvenser för offren, inklusive förlust av jobb, depression och ångest.

För närvarande finns det ingen federal lag i USA som specifikt tar itu med uppkomsten av digitalt förfalskad pornografi som bygger på riktiga människor, även om vissa stater som Texas och Kalifornien har sin egen lagstiftning. Texas kriminaliserar skapandet av olagligt AI-innehåll, med potentiell fängelse för brottslingar, medan Kalifornien tillåter offer att stämma för skadestånd.

Lagförslagets införande kommer vid en tidpunkt då frågan om sexuellt utnyttjande på nätet, särskilt när det gäller minderåriga, får stor uppmärksamhet. Senatens rättsutskott undersöker i en utfrågning med titeln "Big Tech and the Online Child Sexual Exploitation Crisis" vilken roll sociala medieplattformar spelar i spridningen av sådant innehåll och behovet av lagstiftningsåtgärder.

Detta lagstiftningsinitiativ belyser den växande oron över missbruk av AI-teknik för att skapa djupt falskt innehåll och behovet av rättsliga ramar för att skydda individer från sådant utnyttjande och trakasserier

Bildkälla: Shutterstock