Twitch Melarang Pertunjukan Seinfeld yang dibuat oleh AI Karena Membuat Lelucon Transfobia

Diterbitkan Ulang Oleh Plato

Followers: 0

Video Spoof Seinfeld Tidak Ada, Selamanya - sebuah komedi situasi yang dikembangkan menggunakan AI generatif - telah dilarang sementara di Twitch setelah salah satu karakter secara tidak sengaja memuntahkan kata-kata kotor transphobic.

Pertunjukan yang aneh menjadi berita utama minggu lalu karena menggunakan AI untuk mengimprovisasi visual dan naskah episode Seinfeld yang tidak pernah berakhir. Dalam seni meniru komedi, sitkom 30 Rock diprediksi sesuatu seperti ini lebih dari 15 tahun yang lalu.

Karakter, meniru karakter serial komedi ikonik Jerry, George, Elaine dan Kramer, mengucapkan dialog yang sepenuhnya dibuat menggunakan model bahasa GPT-3 OpenAI. Teks diterjemahkan ke audio menggunakan algoritme text-to-speech dan latar belakang serta adegan juga dihasilkan oleh AI. Tidak ada, Selamanya mengalir di Twitch 24/7 dan telah menarik banyak pengikut sejak mulai ditayangkan tahun lalu di bulan Desember.

Tapi saluran pembawa acara diturunkan pada hari Senin untuk melanggar Kebijakan konten Twitch. Skyler Hartle, salah satu pendiri Mismatch Media dan salah satu pencipta di balik Nothing, Forever, memberi tahu Pendaftaran larangan tersebut dikeluarkan karena karakter utama, Larry Feinberg, membuat komentar ofensif yang mengatakan bahwa transgender "merusak tatanan masyarakat", menjadi transgender adalah penyakit mental, dan bahwa "semua kaum liberal diam-diam adalah gay".

Anda dapat menonton adegan stand-up yang buruk di bawah ini.

Youtube Video

Hartle mengatakan naskah acara itu keluar jalur ketika pembuatnya beralih dari menggunakan model Davinci model GPT-3 OpenAI ke versi yang kurang kuat dan lebih murah bernama Curie, dan tidak mengimplementasikan fitur perangkat lunak untuk memoderasi kontennya.

“Kami mengalami masalah dengan koneksi kami ke Davinci tadi malam dan harus beralih ke model Curie sementara masalah tersebut teratasi dengan sendirinya. Saat itulah teks yang tidak pantas dibuat, dan kami segera menutupnya. Kami menyelidiki masalah ini lebih lanjut dan menemukan bahwa kami tidak memanfaatkan alat moderasi konten OpenAI dengan benar,” katanya kepada kami.

Hartle menegaskan bahwa larangan tersebut bersifat sementara dan harus berlangsung selama 14 hari. Mismatch Media sekarang bekerja untuk menerapkan alat moderasi konten OpenAI dan juga mempertimbangkan sistem sekunder untuk melacak keluaran model.

“Teks yang kami buat adalah kesalahan, kami sangat malu, dan bahwa konten generatif yang dibuat sama sekali tidak mencerminkan nilai atau pendapat staf kami. Kami sangat menyesalkan hal ini terjadi dan berharap untuk segera mengudara kembali, dengan semua pengamanan yang sesuai,” katanya.

Model bahasa besar seperti GPT-3 dilatih dari teks yang diambil dari internet dan dapat menghasilkan bahasa yang tidak pantas dan menyinggung. Filter konten dapat meminimalkan teks terburuk, tetapi cuplikan masih akan menyelinap bahkan dengan perlindungan di tempat.

Seorang juru bicara dari Twitch dikirim Pendaftaran pedoman komunitas perusahaan yang menangani perilaku kebencian, dan mengatakan:

“Kami tidak mengomentari pelanggaran tertentu karena alasan privasi, tetapi kami akan mengambil tindakan yang sesuai jika kami memiliki bukti bahwa suatu saluran telah melanggar Pedoman Komunitas atau Ketentuan Layanan kami.” ®