AI-tillverkade TikTok-influencers Bad for Teens: ParentsTogether

En ideell organisation som förespråkar säkert internet för barn, ParentsTogether, har skrivit ett öppet brev där de klagar på att AI-genererade TikTok-influencers främjar falska livsstilar för barn och tonåringar, vilket pressar dem till depression.

Organisationen samlade 12,000 XNUMX föräldrars underskrifter på det öppna brevet till TikToks vd Shou Zi Chew, där de tog upp deras oro och önskemål om att den sociala medieplattformen ska märka "falska AI-genererade influencers."

AI-influencers går inte att särskilja

Detta kommer när föräldrar upptäcker många falska AI-influencers som marknadsförs till barns och tonåringars konton. Den nya TikTok trenden visar falska AI-influencers på videor som inte är märkta, vilket kan vilseleda barn och tonåringar att tro att de är verkliga. Föräldrar Tillsammans varnade föräldrar för faran: att AI-genererade influencers är "omöjliga att skilja från riktiga människor."

"TikTok förlitar sig på att kreatörer märker sitt innehåll som AI-genererat, men det finns ingen överenskommen etikett, med företag som använder termer som "virtuell tjej" och "virtuell influencer" för att fördunkla", konstaterade lobbygruppen.

"Många videor från AI-genererade konton är omärkta på själva videorna och skulle kräva att unga användare navigerar till influencerns profil för att avgöra att influencern inte är en riktig person", tillade organisationen.

Läs också: Europeiska kommissionen lanserar One-Stop Shop för AI-superdatorer för nystartade

Jagar orealistiska skönhetsstandarder

Enligt deras resultat hävdar några av dessa falska influencers att de följer specifika dieter, hudvårdsrutiner och träningsplaner. Detta har skapat falskt hopp bland barn och tonåringar som, enligt föräldrarna, nu jagar efter orealistiska skönhetsstandarder.

Även om dessa AI-genererade influencers kan vara av vilken ras eller åldersgrupp som helst, har forskare enligt uppgift noterat att TikTok ofta främjar de som verkar vara övre medelklass, smala och vita.

"Sociala medier kan vidmakthålla kroppsmissnöje, oordnade ätbeteenden, social jämförelse och låg självkänsla, särskilt bland tonårsflickor." varnade USA:s kirurggeneral Dr. Vivek Murthy.

Det är inte första gången som den sociala medieplattformen har hamnat i kontroverser om barn och tonåringar. Förra året tillkännagav Utah justitieminister Sean Reyes en stämning mot TikTok för påstås vara beroendeframkallande för tonåringar och barn och skapa psykiska problem för dem.

Varför barn och tonåringar är i riskzonen

Även om användningen av AI-genererade influencers är ett relativt nytt fenomen, vinner de snabbt dragkraft, med företag som använder dem som sina modeller.

Som ParentsTogether är denna trend oroande när man tar hänsyn till den inverkan och inflytande dessa har på barn och tonåringar. Organisationen genomförde en undersökning 2021 som visade att funktioner i sociala medier som skönhetsfilter bidrog till tonåringars negativa kroppsuppfattning, depression och ångest.

Studien visade också att barn och tonåringar som spenderar cirka 18 timmar och mer på sociala medier sannolikt ogillar deras utseende mer än de som spenderar mindre än åtta timmar i veckan.

Det visade sig också att 52 % av tonåringarna angav att de använde skönhetsfilter för att ändra sitt utseende, medan 60 % sa att "att använda skönhetsfilter får dem att må sämre om hur de ser ut i verkligheten."

Som en del av studien visades tonåringar 10 bilder av kändisar i ett "riktigt eller falskt" frågesport, och 70 % hade ett underkänt resultat, vilket visade att tonåringar inte lätt kunde identifiera skönhetsfilter när de användes på sociala medier.

Dessa resultat har också befäst ParentsTogethers oro. Kampanjchef på ParentsTogether, Shelby Knox, sa att även mediekunniga vuxna inte lätt kan se verkligt innehåll från AI-genererat innehåll, vilket borde vara ännu svårare för barn.

"Den växande trenden med AI-genererade influencers som agerar som riktiga människor på TikTok är otroligt farligt för barn och tonåringar," sa Knox.

"Dessa datoralgoritmer presenterar människor med modeller av omöjlig skönhet, kost och träningsstandarder, vilket kan utlösa ätstörningar och leda till kroppsdysmorfi. TikTok har ett ansvar gentemot sina unga användare att tydligt märka AI och virtuella influencers på alla sina videor”, tillade Knox.

Ett nödvändigt ont

Men även om exponering för sociala medier och AI-influenser har skapat problem för barn och tonåringar, tror experter också att sociala medier är ett nödvändigt ont.

I en tidigare artikel av Hon vet, Dr. Ariana Hoet, en verkställande klinisk direktör för På våra ärmar, nämnda sociala medier kan vara till hjälp när de används på rätt sätt och låter barn och tonåringar ansluta. Det blir oroande när sociala medier ersätter verkliga interaktioner eller fritidsaktiviteter som de brukade njuta av.

"De har gjort sina aktiviteter. Låt dem spendera tid på att spela sitt tv-spel eller rulla TikTok. Det är de barnen som inte gör de andra aktiviteterna som jag oroar mig för”, sa hon.

American Psychological Association rekommenderade dock nya riktlinjer i maj 2023 för att skydda barn mot skadligt innehåll och de negativa effekterna av sociala medier på deras hälsa. Förra året, meta fick en smäll stämning anklagar sina plattformar som Facebook, Instagram och WhatsApp för att medvetet vara beroendeframkallande för barn och tonåringar, vilket utgör ett hot mot deras mentala hälsa.

Stämningen hävdar att barn och tonåringar kastades in i depression, ångest och sömnlöshet på grund av användningen av dessa plattformar.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://metanews.com/ai-made-tiktok-influencers-are-bad-for-kids-and-teens-parentstogether/