Le Sénat américain présente la loi DEFIANCE pour lutter contre les deepfakes non consensuels générés par l’IA

Le Sénat des États-Unis examine actuellement la loi Disrupt Explicit Forged Images and Non-Consensual Edits Act de 2024, communément connue sous le nom de DEFIANCE Act. Ce projet de loi bipartite a été présenté en réponse à l'inquiétude croissante suscitée par les images et vidéos « deepfakes » non consensuelles et sexuellement explicites, en particulier celles créées à l'aide de intelligence artificielle (IA). L’introduction de cette législation a été considérablement motivée par les récents incidents impliquant des images explicites de la chanteuse Taylor Swift générées par l’IA, qui se sont rapidement répandues sur les plateformes de médias sociaux.

La loi DEFIANCE vise à offrir un recours civil fédéral aux victimes qui peuvent être identifiées dans ces « contrefaçons numériques ». Ce terme est défini dans la législation comme des représentations visuelles créées à l’aide d’un logiciel, de l’apprentissage automatique, de l’IA ou d’autres moyens générés par ordinateur pour paraître faussement authentiques. La loi criminaliserait la création, la possession et la distribution de tels contenus explicites non consensuels générés par l’IA. Cela fixerait également un délai de prescription de dix ans, à compter du moment où le sujet représenté dans le contenu deepfake non consensuel prend connaissance des images ou atteint l'âge de 18 ans.

La nécessité d'une telle loi est soulignée par une étude de 2019 qui a révélé que 96 % des vidéos deepfakes étaient de la pornographie non consensuelle, souvent utilisée pour exploiter et harceler les femmes, en particulier les personnalités publiques, les politiciens et les célébrités. La diffusion généralisée de ces deepfakes peut entraîner de graves conséquences pour les victimes, notamment la perte d'emploi, la dépression et l'anxiété.

À l’heure actuelle, il n’existe aux États-Unis aucune loi fédérale traitant spécifiquement de la montée de la pornographie falsifiée numériquement, calquée sur de vraies personnes, bien que certains États comme le Texas et la Californie aient leur propre législation. Le Texas criminalise la création de contenu illicite d'IA, avec des peines de prison potentielles pour les contrevenants, tandis que la Californie autorise les victimes à intenter une action en justice pour dommages-intérêts.

L'introduction du projet de loi intervient à un moment où la question de l'exploitation sexuelle en ligne, impliquant notamment des mineurs, fait l'objet d'une attention particulière. La commission judiciaire du Sénat, lors d'une audition intitulée « Les grandes technologies et la crise de l'exploitation sexuelle des enfants en ligne », examine le rôle des plateformes de médias sociaux dans la diffusion de tels contenus et la nécessité d'une action législative.

Cette initiative législative met en évidence l'inquiétude croissante concernant l'utilisation abusive de la technologie de l'IA dans la création de contenus deepfakes et la nécessité de cadres juridiques pour protéger les individus contre une telle exploitation et un tel harcèlement.

Source de l'image: Shutterstock