Influencer TikTok Buatan AI Buruk untuk Remaja: Orang Tua Bersama

Sebuah organisasi nirlaba yang mengadvokasi internet yang aman untuk anak-anak, ParentsTogether, telah menulis surat terbuka yang mengeluhkan bahwa influencer TikTok yang dibuat dengan AI mempromosikan gaya hidup palsu kepada anak-anak dan remaja, sehingga menekan mereka hingga mengalami depresi.

Organisasi ini mengumpulkan 12,000 tanda tangan orang tua pada surat terbuka kepada CEO TikTok Shou Zi Chew, menyampaikan keprihatinan dan permintaan mereka agar platform media sosial tersebut memberi label “influencer palsu yang dihasilkan oleh AI.”

Influencer AI tidak bisa dibedakan

Hal ini terjadi ketika orang tua menemukan banyak influencer AI palsu yang dipromosikan ke akun anak-anak dan remaja. Yang baru Tiktok tren menampilkan influencer AI palsu pada video yang tidak diberi label, berpotensi menyesatkan anak-anak dan remaja agar mempercayai video tersebut nyata. ParentsT Together memperingatkan orang tua akan bahaya yang ada: bahwa influencer yang dihasilkan oleh AI “tidak dapat dibedakan dari orang sungguhan.”

“TikTok mengandalkan pembuat konten untuk memberi label pada konten mereka sebagai buatan AI, namun tidak ada label yang disepakati, dan perusahaan menggunakan istilah seperti “gadis virtual” dan “pemberi pengaruh virtual” untuk mengaburkannya,” kata kelompok lobi tersebut.

“Banyak video dari akun yang dibuat oleh AI tidak diberi label pada video itu sendiri dan mengharuskan pengguna muda untuk membuka profil pemberi pengaruh untuk mengetahui bahwa pemberi pengaruh tersebut bukanlah orang sungguhan,” tambah organisasi tersebut.

Baca juga: Komisi Eropa Meluncurkan One-Stop Shop untuk Superkomputer AI untuk Startup

Mengejar standar kecantikan yang tidak realistis

Menurut temuan mereka, beberapa influencer palsu ini mengaku mengikuti diet tertentu, rutinitas perawatan kulit, dan rencana kebugaran. Hal ini menimbulkan harapan palsu di kalangan anak-anak dan remaja yang, menurut orang tuanya, kini mengejar standar kecantikan yang tidak realistis.

Meskipun influencer yang dihasilkan oleh AI ini dapat berasal dari ras atau kelompok umur apa pun, para peneliti dilaporkan mencatat bahwa TikTok sering mempromosikan mereka yang tampak seperti kelas menengah atas, kurus, dan berkulit putih.

“Media sosial dapat melanggengkan ketidakpuasan terhadap tubuh, perilaku makan yang tidak teratur, perbandingan sosial, dan rendahnya harga diri, terutama di kalangan remaja perempuan,” memperingatkan Ahli Bedah Umum AS Dr. Vivek Murthy.

Ini bukan pertama kalinya platform media sosial ini terjebak dalam kontroversi terkait anak-anak dan remaja. Tahun lalu, Jaksa Agung Utah Sean Reyes mengumumkan a gugatan terhadap TikTok karena diduga membuat ketagihan remaja dan anak-anak sehingga menimbulkan masalah kesehatan mental bagi mereka.

Mengapa anak-anak dan remaja berisiko

Meskipun penggunaan influencer yang dihasilkan oleh AI merupakan fenomena yang relatif baru, namun mereka dengan cepat mendapatkan daya tarik dan banyak perusahaan yang menggunakan mereka sebagai model mereka.

Sebagai ParentsTogether, tren ini mengkhawatirkan jika kita memperhitungkan dampak dan pengaruhnya terhadap anak-anak dan remaja. Organisasi tersebut melakukan survei pada tahun 2021 yang menunjukkan bahwa fitur media sosial seperti filter kecantikan berkontribusi terhadap dampak negatif remaja. citra tubuh, depresi, dan kecemasan.

Studi tersebut juga menunjukkan bahwa anak-anak dan remaja yang menghabiskan waktu sekitar 18 jam atau lebih di media sosial cenderung lebih tidak menyukai penampilan mereka dibandingkan mereka yang menghabiskan waktu kurang dari delapan jam dalam seminggu.

Diketahui juga bahwa 52% remaja mengindikasikan bahwa mereka menggunakan filter kecantikan untuk mengubah penampilan mereka, sementara 60% mengatakan “menggunakan filter kecantikan membuat mereka merasa lebih buruk tentang penampilan mereka di kehidupan nyata.”

Sebagai bagian dari penelitian, remaja diperlihatkan 10 gambar selebriti dalam kuis “asli atau palsu”, dan 70% mendapat skor gagal, yang menunjukkan bahwa remaja tidak dapat dengan mudah mengidentifikasi filter kecantikan saat digunakan di media sosial.

Hasil ini juga memperkuat kekhawatiran ParentsTogether. Direktur kampanye ParentsTogether, Shelby Knox, mengatakan bahwa bahkan orang dewasa yang paham media pun tidak bisa dengan mudah membedakan konten yang dibuat oleh AI, dan hal ini akan lebih sulit dilakukan oleh anak-anak.

“Meningkatnya tren influencer yang dihasilkan oleh AI yang bertindak seperti manusia nyata di TikTok sangat berbahaya bagi anak-anak dan remaja,” kata Knox.

“Algoritme komputer ini memberi orang model standar kecantikan, pola makan, dan olahraga yang mustahil, yang dapat memicu gangguan makan dan menyebabkan dismorfia tubuh. TikTok memiliki tanggung jawab kepada pengguna mudanya untuk secara jelas memberi label AI dan influencer virtual di semua video mereka,” tambah Knox.

Kejahatan yang diperlukan

Namun, meskipun paparan terhadap media sosial dan influencer AI telah menimbulkan masalah bagi anak-anak dan remaja, para ahli juga berpendapat bahwa media sosial adalah sebuah kejahatan yang perlu dilakukan.

Dalam artikel sebelumnya oleh Dia tahu, Dr. Ariana Hoet, direktur klinis eksekutif Di Lengan Kami, mengatakan media sosial dapat membantu bila digunakan dengan benar dan memungkinkan anak-anak dan remaja untuk terhubung. Menjadi mengkhawatirkan ketika media sosial menggantikan interaksi dalam kehidupan nyata atau kegiatan ekstrakurikuler yang biasa mereka nikmati.

“Mereka sudah melakukan aktivitasnya. Biarkan mereka menghabiskan waktu bermain video game atau menelusuri TikTok. Yang saya khawatirkan adalah anak-anak yang tidak melakukan aktivitas lain,” katanya.

Namun, American Psychological Association merekomendasikan pedoman baru pada Mei 2023 untuk melindungi anak-anak dari konten berbahaya dan dampak buruk media sosial terhadap kesehatan mereka. Tahun lalu, meta ditampar dengan a perkara hukum menuduh platformnya seperti Facebook, Instagram, dan WhatsApp sengaja membuat ketagihan bagi anak-anak dan remaja, sehingga mengancam kesehatan mental mereka.

Gugatan tersebut menuduh bahwa anak-anak dan remaja mengalami depresi, kecemasan, dan insomnia karena penggunaan platform ini.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://metanews.com/ai-made-tiktok-influencers-are-bad-for-kids-and-teens-parentstogether/