اینفلوئنسرهای TikTok ساخته شده توسط هوش مصنوعی برای نوجوانان بد هستند: والدین با هم

بازنشر افلاطون

دنبال: 0

یک سازمان غیرانتفاعی که از اینترنت ایمن برای کودکان حمایت می‌کند، ParentsTogether، نامه‌ای سرگشاده نوشته است که در آن از اینفلوئنسرهای TikTok تولید شده توسط هوش مصنوعی، شیوه‌های زندگی جعلی را برای کودکان و نوجوانان ترویج می‌کنند و آنها را به سمت افسردگی تحت فشار قرار می‌دهند.

این سازمان 12,000 امضای والدین را در نامه سرگشاده خطاب به مدیر عامل TikTok، Shou Zi Chew جمع آوری کرد و نگرانی ها و درخواست های آنها را برای پلتفرم رسانه اجتماعی برای برچسب "اینفلوئنسرهای جعلی تولید شده توسط هوش مصنوعی" مطرح کرد.

اینفلوئنسرهای هوش مصنوعی قابل تشخیص نیستند

این زمانی اتفاق می‌افتد که والدین بسیاری از اینفلوئنسرهای تقلبی هوش مصنوعی را کشف می‌کنند که به حساب‌های کودکان و نوجوانان ارتقا می‌یابند. جدید TikTok این روند دارای تأثیرگذاران تقلبی هوش مصنوعی در ویدیوهایی است که برچسب‌گذاری نشده‌اند و به طور بالقوه کودکان و نوجوانان را گمراه می‌کنند تا آنها را واقعی تصور کنند. پدر و مادر با هم به والدین در مورد خطر موجود هشدار داد: اینفلوئنسرهای تولید شده توسط هوش مصنوعی "از افراد واقعی قابل تشخیص نیستند."

گروه لابی خاطرنشان کرد: TikTok برای برچسب گذاری محتوای خود به عنوان تولید شده توسط هوش مصنوعی به سازندگان متکی است، اما هیچ برچسب مورد توافقی وجود ندارد، زیرا شرکت ها از عباراتی مانند "دختر مجازی" و "اینفلوئنسر مجازی" برای مبهم کردن استفاده می کنند.

این سازمان افزود: «بسیاری از ویدیوها از حساب‌های تولید شده توسط هوش مصنوعی روی خود ویدیوها بدون برچسب هستند و از کاربران جوان می‌خواهند تا به نمایه اینفلوئنسر مراجعه کنند تا تشخیص دهند این اینفلوئنسر یک شخص واقعی نیست.

همچنین بخوانید: کمیسیون اروپا فروشگاه تک مرحله ای برای ابررایانه های هوش مصنوعی برای استارتاپ ها راه اندازی می کند

تعقیب استانداردهای زیبایی غیر واقعی

بر اساس یافته‌های آن‌ها، برخی از این اینفلوئنسرهای جعلی ادعا می‌کنند که از رژیم‌های غذایی خاص، روتین‌های مراقبت از پوست و برنامه‌های تناسب اندام پیروی می‌کنند. این باعث ایجاد امید کاذب در میان کودکان و نوجوانانی شده است که به گفته والدین، اکنون به دنبال استانداردهای زیبایی غیرواقعی هستند.

در حالی که این اینفلوئنسرهای تولید شده توسط هوش مصنوعی می‌توانند از هر نژاد یا گروه سنی باشند، طبق گزارش‌ها، محققان خاطرنشان کرده‌اند که TikTok اغلب افرادی را تبلیغ می‌کند که ظاهراً از طبقه متوسط بالا، لاغر و سفیدپوست هستند.

رسانه‌های اجتماعی ممکن است نارضایتی بدن، رفتارهای غذایی نامنظم، مقایسه اجتماعی و اعتماد به نفس پایین را به ویژه در میان دختران نوجوان تداوم بخشند. هشدار داد دکتر ویوک مورتی، جراح عمومی ایالات متحده.

این اولین بار نیست که پلتفرم رسانه های اجتماعی درگیر جنجال بر سر کودکان و نوجوانان می شود. سال گذشته، شان ریس، دادستان کل یوتا اعلام کرد دعوی علیه TikTok به دلیل اعتیادآور بودن به نوجوانان و کودکان و ایجاد مشکلات روانی برای آنها.

چرا کودکان و نوجوانان در معرض خطر هستند

در حالی که استفاده از اینفلوئنسرهای تولید شده توسط هوش مصنوعی یک پدیده نسبتاً جدید است، آنها به سرعت در حال جلب توجه هستند و شرکت ها از آنها به عنوان مدل خود استفاده می کنند.

به عنوان ParentsTogether، این روند زمانی نگران‌کننده است که یکی از عوامل تأثیر و تأثیرگذاری بر کودکان و نوجوانان باشد. این سازمان در سال 2021 نظرسنجی انجام داد که نشان داد ویژگی‌های رسانه‌های اجتماعی مانند فیلترهای زیبایی به منفی شدن نوجوانان کمک می‌کند. تصویر بدن، افسردگی و اضطراب

این مطالعه همچنین نشان داد که کودکان و نوجوانانی که حدود 18 ساعت و بالاتر را در رسانه های اجتماعی سپری می کنند، احتمالاً نسبت به کسانی که کمتر از XNUMX ساعت در هفته را می گذرانند، ظاهر خود را بیشتر دوست ندارند.

همچنین مشخص شد که 52 درصد از نوجوانان نشان داده‌اند که از فیلترهای زیبایی برای تغییر ظاهر خود استفاده می‌کنند، در حالی که 60 درصد گفته‌اند «استفاده از فیلترهای زیبایی باعث می‌شود احساس بدتری نسبت به ظاهرشان در زندگی واقعی داشته باشند».

به عنوان بخشی از این مطالعه، به نوجوانان 10 تصویر از افراد مشهور در یک مسابقه "واقعی یا جعلی" نشان داده شد و 70٪ نمره رد داشتند، که نشان می داد نوجوانان نمی توانند به راحتی فیلترهای زیبایی را هنگام استفاده در رسانه های اجتماعی شناسایی کنند.

این نتایج همچنین نگرانی‌های ParentsTogether را تقویت کرده است. مدیر کمپین در ParentsTogether، شلبی ناکس، گفت که حتی بزرگسالان آگاه به رسانه نمی توانند به راحتی محتوای تولید شده توسط هوش مصنوعی را تشخیص دهند، که حتی برای بچه ها باید سخت تر باشد.

ناکس گفت: «روند رو به رشد اینفلوئنسرهای تولید شده توسط هوش مصنوعی که مانند انسان های واقعی در TikTok عمل می کنند، برای کودکان و نوجوانان فوق العاده خطرناک است.

این الگوریتم‌های رایانه‌ای مدل‌هایی از استانداردهای زیبایی، رژیم غذایی و ورزش غیرممکن را در اختیار افراد قرار می‌دهند که می‌تواند باعث اختلالات خوردن شود و منجر به بدشکلی بدن شود. ناکس افزود: TikTok در قبال کاربران جوان خود مسئولیت دارد که به وضوح هوش مصنوعی و اینفلوئنسرهای مجازی را بر روی تمام ویدیوهای خود برچسب گذاری کنند.

یک شر ضروری

با این حال، در حالی که قرار گرفتن در معرض رسانه های اجتماعی و تأثیرگذاران هوش مصنوعی مشکلاتی را برای کودکان و نوجوانان ایجاد کرده است، کارشناسان همچنین فکر می کنند رسانه های اجتماعی یک شر ضروری هستند.

در مقاله قبلی توسط او میداند، دکتر آریانا هوت، مدیر اجرایی بالینی روی آستین ما، گفت: رسانه‌های اجتماعی در صورت استفاده صحیح می‌توانند مفید باشند و به بچه‌ها و نوجوانان اجازه ارتباط برقرار کنند. وقتی رسانه‌های اجتماعی جایگزین تعاملات واقعی یا فعالیت‌های فوق برنامه‌ای شوند که قبلاً از آن لذت می‌بردند، نگران‌کننده می‌شود.

آنها فعالیت های خود را انجام داده اند. به آنها اجازه دهید وقت خود را صرف بازی ویدیویی خود یا پیمایش TikTok کنند. این بچه‌ها هستند که آن فعالیت‌های دیگر را انجام نمی‌دهند که من نگران آنها هستم.» او گفت.

با این حال، انجمن روان‌شناسی آمریکا در ماه مه ۲۰۲۳ دستورالعمل‌های جدیدی را برای محافظت از کودکان در برابر محتوای مضر و تأثیرات نامطلوب رسانه‌های اجتماعی بر سلامت آنها توصیه کرد. سال گذشته، متا با یک سیلی خورد طرح دعوی در دادگاه متهم کردن پلتفرم‌های خود مانند فیس‌بوک، اینستاگرام و واتس‌اپ به اعتیاد عمدی برای کودکان و نوجوانان و تهدیدی برای سلامت روان آنها.

این شکایت ادعا می کند که کودکان و نوجوانان به دلیل استفاده از این سیستم عامل ها دچار افسردگی، اضطراب و بی خوابی می شوند.