X Berburu Moderator Konten Setelah Taylor Swift Chaos

X sedang memburu moderator konten untuk mengatasi eksploitasi seksual terhadap anak-anak dan konten eksplisit lainnya setelah gambar Taylor Swift dengan rating X yang dibuat oleh AI menjadi viral di platform.

Perusahaan media sosial ini akan mempekerjakan 100 karyawan tetap untuk mengatasi proliferasi konten deepfake yang kini lazim tidak hanya di X tetapi juga di seluruh platform media sosial.

Pusat Kepercayaan dan Keamanan

Dengan tambahan staf, bisnis milik Elon Musk ini juga kini sedang mempertimbangkan untuk mengembangkan “pusat kepercayaan dan keamanan” di Austin, Texas. Di sini, agen akan bertanggung jawab untuk meninjau konten sesuai dengan peraturan keselamatan perusahaan.

Perkembangan ini juga terjadi ketika platform media sosial kini digunakan oleh pelaku kejahatan untuk melakukan kekerasan, rasisme, penipuan, dan eksploitasi seksual terhadap anak.

“X tidak memiliki lini bisnis yang berfokus pada anak-anak, namun penting bagi kami untuk melakukan investasi ini untuk terus menghentikan pelanggar menggunakan platform kami untuk distribusi atau keterlibatan apa pun dengan konten CSE,” tersebut Joe Benarroch, yang merupakan kepala operasi bisnis di X.

Platform ini telah dikritik menyusul penyebaran konten antisemit dan neo-Nazi. Hal ini mengakibatkan banyak pengiklan yang menyebarkan platform tersebut.

Dalam 2022, Jebat mengakuisisi platform media sosial—kemudian Twitter—senilai $44 miliar untuk memungkinkan kebebasan berpendapat di platform tersebut. Hal ini tidak berjalan dengan baik, karena miliarder teknologi ini mendapat kecaman setelah memotong “jumlah karyawan dari operasi kepercayaan dan keselamatan perusahaan.”

Baca juga: Industri Teknologi Terkena PHK Besar-besaran karena Perusahaan Mengganti Pekerjanya dengan AI

Tindakan sementara

Dalam beberapa minggu terakhir, platform tersebut dibanjiri dengan gambar eksplisit yang dihasilkan oleh AI taylor cepat, mendorong banyak penggemarnya untuk mengatasi hal ini dengan kampanye mereka sendiri dengan citra yang lebih positif dari penyanyi tersebut. Para penggemar berlari dengan tagar #ProtectTaylorSwift.

Untuk X, platform tersebut memblokir pencarian lebih lanjut untuk musisi tersebut. Menurut New York Post, pengguna yang mencoba mencari namanya pada hari Senin mendapat kesalahan pesan yang meminta mereka untuk mencoba lagi, menambahkan, “Jangan khawatir—itu bukan salah Anda.”

Namun postingan dengan namanya muncul setiap kali pengguna menambahkan tanda kutip di sekitar namanya, dengan beberapa ahli berpendapat bahwa pendekatan X dalam menangani masalah ini masih jauh dari harapan.

“Ini adalah tindakan sementara dan dilakukan dengan sangat hati-hati karena kami memprioritaskan keselamatan dalam masalah ini,” kata Benarroch dalam sebuah pernyataan.

Namun, beberapa penggemar Taylor Swift melaporkan akun yang membagikan gambar deepfake tersebut.

Menelusuri permasalahannya

Dengan semakin populernya AI generatif di seluruh dunia, kini terdapat alat canggih yang juga tersedia untuk menyebarkan konten berbahaya. Dengan insiden Taylor Swift, Reality Defender, sebuah kelompok pendeteksi deepfake, melacak banyak materi pornografi yang menggambarkan bintang pop tersebut, terutama di X, sementara yang lain ada di Facebook dan platform media sosial lainnya.

Menurut Ben Decker dari kelompok intelijen ancaman Memetica, gambar-gambar tersebut Taylor Swift pertama kali datang dari kampanye bernama Lewd DALL-E, yang mengkhususkan diri pada gambar wanita selebriti yang dibuat secara seksual eksplisit oleh AI.

“Ini adalah bagian dari hubungan permusuhan yang sudah berlangsung lama antara troll dan platform,” kata Decker.

“Selama platform masih ada, troll akan mencoba mengganggu mereka. Dan selama troll masih ada, platform akan terganggu. Jadi pertanyaannya adalah, Berapa kali lagi hal ini akan terjadi sebelum ada perubahan yang serius?”

Grafik Gedung Putih pada hari Jumat mempertimbangkan masalah ini, menyebut gambar palsu itu “mengkhawatirkan” dan menyerukan platform media sosial untuk melakukannya mengambil tanggung jawab untuk mencegah penyebaran informasi yang salah.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/