Les sénateurs s'attaquent aux deepfakes de l'IA avec DEFIANCE Act

Republié par Platon

Suiveurs: 0

Les sénateurs américains ont présenté un projet de loi bipartite qui permettrait aux victimes représentées dans des deepfakes pornographiques non consensuels générés par l'IA de poursuivre les créateurs en justice pour dommages et intérêts.

La loi Disrupt Explicit Forged Images and Non-Consensual Edits Act de 2024 (DEFIANCE Act) est soutenue par les sénateurs Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) et Josh Hawley (R -MO). Le projet de loi a été présenté à temps pour la journée d'aujourd'hui grillage des PDG des médias sociaux par la commission judiciaire du Sénat concernant l'exploitation sexuelle des enfants en ligne et les mesures prises pour y mettre un terme.

Les auteurs du projet de loi citent [PDF] une étude de 2019 affirmant que 96 % des vidéos deepfake étaient de la pornographie non consensuelle – du matériel réaliste classé X généré par l'IA et réalisé sans la permission ou le consentement des personnes représentées. C’est à ce genre de déchets – qui peuvent être utilisés par des mécréants pour extorquer des victimes ou ruiner leur carrière et leurs relations – que le projet de loi devrait s’attaquer, s’il parvient un jour au Congrès et à être inscrit dans les lois.

« Les « deepfakes » sexuellement explicites sont souvent utilisés pour exploiter et harceler les femmes, en particulier les personnalités publiques, les politiciens et les célébrités », a déclaré le sénateur Durbin. a affirmé Valérie Plante..

« Ce mois-ci, de fausses images sexuellement explicites de Taylor Swift, générées par l’intelligence artificielle, ont envahi les plateformes de médias sociaux. Même si les images peuvent être fausses, le préjudice causé aux victimes par la diffusion de « deepfakes » sexuellement explicites est bien réel.»

Twitter vient de lever son interdiction temporaire sur les chercheurs de l'auteur-compositeur-interprète superstar après que de fausses images NSFW d'elle soient devenues virales sur le désormais bien nommé X. Ce n'est pas la première – et certainement pas la dernière fois – qu'une célébrité féminine est ciblée pour créer de fausses photos. Contenu NSFW. Cette affaire très médiatisée a cependant particulièrement consterné les fans, les PDG du secteur technologique et même les maison Blanche, qui a exhorté le Congrès à « prendre des mesures législatives ».

La loi DEFIANCE permet aux victimes de deepfakes intimes non consensuels d’IA d’intenter une action civile contre toute personne qui a produit, possède ou a l’intention de distribuer un tel matériel. Cela créerait un délai de prescription de dix ans qui commencerait après que les sujets représentés dans du contenu deepfake non consensuel aient pris connaissance des images ou à partir de l'âge de 18 ans.

Il n’existe actuellement aucune loi fédérale aux États-Unis pour lutter contre la montée de la pornographie falsifiée numériquement, calquée sur de vraies personnes, bien que certains États aient adopté leur propre législation. La création de contenu illicite d’IA a été criminalisée au Texas et les auteurs pourraient encourir jusqu’à un an de prison. Pendant ce temps, en Californie, les victimes peuvent intenter une action en dommages-intérêts.

L'année dernière, un projet de loi similaire proposé par les représentants de la Chambre Joe Morelle (D-NY) et Tom Kean (R-NJ) a été examiné par un comité judiciaire de la Chambre. Le projet de loi visant à prévenir les deepfakes d'images intimes visait à criminaliser la création et le partage d'images non consensuelles générées par l'IA, ce qui en ferait un délit passible d'une peine pouvant aller jusqu'à dix ans de prison.

Ce projet n'a fait aucun progrès significatif et Morelle et Kean ont réintroduit leur projet de loi suite au scandale Swift. ®