Les nus Deepfake de Taylor Swift attirent l'attention des États-Unis et de Microsoft

Republié par Platon

Suiveurs: 0

De fausses images virales sexuellement explicites générées par l'IA de la royauté de la pop Taylor Swift ont touché une corde sensible, amenant les fans, le patron de Microsoft et même la Maison Blanche à appeler à une action immédiate pour lutter contre les deepfakes.

Les images classées X, auxquelles Le registre will't link, ont circulé en ligne pendant le week-end et ont été publiées sur X, accumulant au moins des dizaines de millions de vues. Les deepfakes ont placé la question des deepfakes explicites et non consensuels de l’IA au centre de la scène, car les Swifties – dont beaucoup ont signalé les images comme étant inappropriées – ont apparemment été déçus d’apprendre qu’il n’existe aucune loi fédérale interdisant un tel contenu.

Nos voix sont notre arme secrète et nos paroles sont comme des power-ups dans Fortnite

Cet incident est survenu longtemps après préoccupation préalable sur la production de deepfakes sexuellement explicites mettant en scène des femmes moins célèbres sans leur consentement. Maintenant que la mégastar Taylor Swift est entraînée dans ce bourbier, c'est l'alerte rouge partout.

La secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, a déclaré que le Congrès « devrait prendre des mesures législatives » pour éliminer les fausses images NSFW. « Nous sommes alarmés par les informations sur la… circulation d'images que vous venez de diffuser – d'images fausses pour être plus exact, et c'est alarmant », a-t-elle déclaré. dit ABC News.

Entre-temps, Jean-Pierre a exhorté les applications de médias sociaux, dont X, à supprimer les images et à empêcher leur diffusion en ligne.

"Alors que les sociétés de médias sociaux prennent leurs propres décisions indépendantes en matière de gestion de contenu, nous pensons qu'elles ont un rôle important à jouer dans l'application de leurs propres règles pour empêcher la propagation de la désinformation et des images intimes et non consensuelles de personnes réelles", a-t-elle ajouté.

Twitter, ou X, a à un moment donné bloqué complètement les recherches sur Taylor Swift pour arrêter le flux de faux nus, levant ainsi le blocus la nuit dernière. Cela n’a pas empêché les deepfakes générés par l’IA de circuler dans les salons de discussion et sur les tableaux d’images. Satya Nadella, PDG de Microsoft – dont le concepteur de l'outil de synthèse texte-image du géant informatique pourrait bien avoir été utilisé pour créer de faux clichés – qualifiés de fausses images de « alarmantes et terribles ».

"Nous devons agir", Nadella dit NBC News, faisant référence aux garde-fous qui doivent être mis en place pour empêcher Designer de créer ce type de matériel.

« Je pense que nous bénéficions tous d’un monde en ligne sûr. Je ne pense donc pas que quiconque souhaite un monde en ligne qui ne soit absolument pas sûr, tant pour les créateurs que pour les consommateurs de contenu. Par conséquent, je pense qu’il nous incombe d’agir rapidement sur ce point.

Plus tôt ce mois-ci, Joe Morelle (démocrate de New York) et Tom Kean (républicain du New Jersey), membres de la Chambre des représentants des États-Unis, ont réintroduit la loi sur la prévention des Deepfakes of Intimate Images. Le projet de loi vise à criminaliser la création et le partage d’images d’IA sexuellement explicites et non consensuelles, avec des peines pouvant aller jusqu’à dix ans de prison.

Morelle a présenté le projet de loi accompagnée de l'adolescente du New Jersey Francesca Mani et de sa mère Dorota, frustrées de ne pouvoir obtenir aucun soutien pour empêcher l'utilisation d'images deepfake sexuellement explicites.

« Ce n'est pas parce que je suis une adolescente que ma voix n'est pas puissante. Rester silencieux ? Pas une option. On nous donne des voix pour contester, pour dénoncer les injustices auxquelles nous sommes confrontés. Ce qui est arrivé à moi et à mes camarades de classe n'était pas cool, et je ne peux pas simplement hausser les épaules et laisser passer ça. argumenté Francesca.

« Je suis ici, debout et criant pour le changement, luttant pour des lois afin que personne d'autre ne se sente aussi perdu et impuissant que moi le 20 octobre. Nos voix sont notre arme secrète, et nos paroles sont comme des power-ups dans Fortnite. Ma mère et moi militons pour créer un monde dans lequel la sécurité n'est pas seulement un espoir ; c'est une réalité pour tout le monde.

Le projet de loi a été présenté au Congrès en 2023 et renvoyé au Comité judiciaire de la Chambre, bien qu’aucune mesure n’ait été prise à l’époque. ®