Senat AS Memperkenalkan Undang-Undang DEFIANCE untuk Melawan Deepfake Nonkonsensual yang Dihasilkan oleh AI

The United States Senate is currently considering the Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024, commonly known as the DEFIANCE Act. This bipartisan bill was introduced in response to the growing concern over nonconsensual, sexually explicit "deepfake" images and videos, particularly those created using kecerdasan buatan (AI). Pemberlakuan undang-undang ini secara signifikan didorong oleh insiden baru-baru ini yang melibatkan gambar eksplisit penyanyi Taylor Swift yang dibuat oleh AI, yang menyebar dengan cepat ke seluruh platform media sosial.

The DEFIANCE Act aims to provide a federal civil remedy for victims who can be identified in these "digital forgeries." This term is defined in the legislation as visual depictions created using software, machine learning, AI, or other computer-generated means to falsely appear authentic. The Act would criminalize the creation, possession, and distribution of such nonconsensual AI-generated explicit content. It would also set a statute of limitations of ten years, starting from when the subject depicted in the non-consensual deepfake content becomes aware of the images or turns 18.

Perlunya undang-undang tersebut ditegaskan oleh penelitian pada tahun 2019 yang menemukan bahwa 96% video deepfake adalah pornografi non-konsensual, yang sering digunakan untuk mengeksploitasi dan melecehkan perempuan, terutama tokoh masyarakat, politisi, dan selebriti. Penyebaran deepfake yang meluas ini dapat menimbulkan konsekuensi yang parah bagi para korbannya, termasuk kehilangan pekerjaan, depresi, dan kecemasan.

Saat ini, tidak ada undang-undang federal di Amerika Serikat yang secara khusus menangani maraknya pornografi palsu secara digital yang meniru orang sungguhan, meskipun beberapa negara bagian seperti Texas dan California memiliki undang-undangnya sendiri. Texas mengkriminalisasi pembuatan konten AI terlarang, dengan potensi hukuman penjara bagi pelanggarnya, sementara California mengizinkan korbannya untuk menuntut ganti rugi.

The bill's introduction comes at a time when the issue of online sexual exploitation, especially involving minors, is receiving significant attention. The Senate Judiciary Committee, in a hearing entitled "Big Tech and the Online Child Sexual Exploitation Crisis," is examining the role of social media platforms in the spread of such content and the need for legislative action.

Inisiatif legislatif ini menyoroti meningkatnya kekhawatiran atas penyalahgunaan teknologi AI dalam pembuatan konten deepfake dan perlunya kerangka hukum untuk melindungi individu dari eksploitasi dan pelecehan tersebut.

Sumber gambar: Shutterstock