Senator Melawan AI Deepfakes Dengan DEFIANCE Act

Diterbitkan Ulang Oleh Plato

Followers: 0

Para Senator AS telah memperkenalkan rancangan undang-undang bipartisan yang akan memungkinkan para korban yang digambarkan dalam video deepfake pornografi yang dihasilkan oleh AI tanpa persetujuan untuk menuntut penciptanya atas kerugian.

The Disrupt Explicit Forged Images dan Non-Consensual Edits Act of 2024 (DEFIANCE Act) didukung oleh Senator Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN), dan Josh Hawley (R -MO). RUU itu diperkenalkan tepat pada hari ini memanggang CEO media sosial oleh Komite Kehakiman Senat mengenai eksploitasi seksual anak secara online dan apa yang dilakukan untuk menghentikannya.

Sponsor rancangan undang-undang tersebut mengutip [PDF] sebuah penelitian pada tahun 2019 mengklaim bahwa 96 persen video deepfake adalah pornografi non-konsensual – materi realistis dengan rating X yang dibuat oleh AI yang dibuat tanpa izin atau izin dari orang yang digambarkan. Jenis sampah inilah – yang dapat digunakan oleh pelaku kejahatan untuk memeras korban atau merusak karier dan hubungan mereka – yang diharapkan dapat diatasi oleh RUU ini, jika RUU tersebut berhasil disahkan oleh Kongres dan dimasukkan dalam undang-undang.

“Konten 'deepfake' yang eksplisit secara seksual sering digunakan untuk mengeksploitasi dan melecehkan perempuan — khususnya tokoh masyarakat, politisi, dan selebritas,” Senator Durbin tersebut.

“Bulan ini, gambar Taylor Swift palsu dan eksplisit secara seksual yang dihasilkan oleh kecerdasan buatan menyebar ke seluruh platform media sosial. Meskipun gambar tersebut mungkin palsu, kerugian bagi para korban dari distribusi 'deepfake' yang eksplisit secara seksual sangat nyata.”

Twitter baru saja mencabut larangan sementara terhadap pencarian penyanyi-penulis lagu superstar tersebut setelah gambar NSFW palsu dirinya menjadi viral di situs yang sekarang diberi nama X. Ini bukan yang pertama – dan jelas bukan yang terakhir kalinya – seorang selebriti wanita menjadi sasaran pembuatan konten palsu. konten NSFW. Namun, kasus besar ini telah mengejutkan para penggemar, CEO teknologi, dan bahkan perusahaan Gedung Putih, yang mendesak Kongres untuk “mengambil tindakan legislatif.”

DEFIANCE Act mengizinkan korban deepfake intim AI tanpa persetujuan untuk mengambil tindakan perdata terhadap siapa pun yang memproduksi, memiliki, atau bermaksud mendistribusikan materi tersebut. Ini akan menciptakan undang-undang pembatasan sepuluh tahun yang dimulai setelah subjek yang digambarkan dalam konten deepfake non-konsensual mengetahui gambar tersebut atau sejak mereka berusia 18 tahun.

Saat ini tidak ada undang-undang federal di Amerika yang menangani munculnya pornografi palsu secara digital yang meniru orang sungguhan, meskipun beberapa negara bagian telah mengeluarkan undang-undang mereka sendiri. Pembuatan konten AI terlarang telah dikriminalisasi di Texas, dan pelakunya dapat menghadapi hukuman satu tahun penjara. Sementara itu, di California, korban dapat menuntut ganti rugi.

Tahun lalu, rancangan undang-undang serupa yang diajukan oleh Anggota DPR Joe Morelle (D-NY) dan Tom Kean (R-NJ) ditinjau oleh komite kehakiman DPR. Undang-undang Pencegahan Deepfakes Gambar Intim yang diusulkan bertujuan untuk mengkriminalisasi pembuatan dan pembagian gambar yang dihasilkan oleh AI tanpa persetujuan, menjadikannya pelanggaran yang dapat dihukum hingga sepuluh tahun penjara.

Rancangan tersebut tidak menghasilkan kemajuan yang signifikan, dan Morelle serta Kean telah memperkenalkan kembali rancangan undang-undang mereka setelah skandal Swift. ®