X metsästää sisällönvalvojat Taylor Swift Chaosin jälkeen

X etsii päitä sisällönvalvojat lasten seksuaaliseen hyväksikäyttöön ja muuhun avoimeen sisältöön sen jälkeen, kun tekoälyn luomat X-luokitellut kuvat Taylor Swiftistä yleistyivät alustalla.

Sosiaalisen median yritys palkkaa 100 kokopäiväistä työntekijää torjumaan syvän fake-sisällön leviämistä, joka on nyt yleistä paitsi X:ssä myös sosiaalisen median alustoilla.

Luottamus- ja turvallisuuskeskus

Lisähenkilöstön myötä Elon Muskin omistama yritys harkitsee myös "luottamus- ja turvallisuuskeskuksen" kehittämistä Austinissa, Texasissa. Täällä edustajat ovat vastuussa sisällön tarkistamisesta yrityksen turvallisuussäännöt.

Kehitys tulee myös siksi, että huonot toimijat käyttävät nyt sosiaalisen median alustoja väkivallan, rasismin, petosten ja lasten seksuaalisen hyväksikäytön harjoittamiseen.

"X:llä ei ole lapsiin keskittyvää liiketoimintaa, mutta on tärkeää, että teemme nämä investoinnit estääksemme rikollisia käyttämästä alustaamme mihinkään täsmähakukoneen sisällön jakeluun tai sitoutumiseen." sanoi Joe Benarroch, joka on X:n liiketoimintajohtaja.

Alustaa on kritisoitu antisemitistisen ja uusnatsisisällön lisääntymisen vuoksi. Tämä on johtanut siihen, että monet mainostajat ovat levittäneet alustaa.

Vuonna 2022, Myski osti sosiaalisen median alustan – silloin Twitterin – 44 miljardilla dollarilla salliakseen sananvapauden alustalla. Tämä ei ole sujunut hyvin, sillä teknologiamiljardööri on joutunut tulen kohteeksi leikattuaan "henkilömäärää yrityksen luottamus- ja turvallisuustoiminnasta".

Lue myös: Teknologia-ala kärsii massiivisista työpaikkojen leikkauksista, kun yritykset korvaavat työntekijät tekoälyllä

Väliaikaiset toimenpiteet

Viime viikkoina alusta on täynnä tekoälyn luomia eksplisiittisiä kuvia taylor swift, kannustaen hänen legioonansa faneja vastustamaan tätä omalla kampanjallaan positiivisempien kuvien avulla laulajasta. Fanit juoksivat hashtagilla #ProtectTaylorSwift.

X:lle alusta esti muusikon lisähakuja. Mukaan New York Post, käyttäjät, jotka yrittivät etsiä hänen nimeään maanantaina, saivat virhe Viesti, jossa heitä pyydetään yrittämään uudelleen ja lisäten: "Älä huoli – se ei ole sinun syytäsi."

Mutta hänen nimensä sisältävät viestit ilmestyivät aina, kun käyttäjät lisäsivät lainausmerkkejä hänen nimensä ympärille, ja jotkut asiantuntijat väittivät, että X:n lähestymistapa ongelman käsittelyyn jätti paljon toivomisen varaa.

"Tämä on väliaikainen toimenpide, ja se tehdään suurella varovaisuudella, koska asetamme turvallisuuden etusijalle tässä asiassa", Benarroch sanoi lausunnossaan.

Jotkut Taylor Swiftin faneista kuitenkin raportoivat tileistä, jotka jakoivat syvät väärennöskuvat.

Ongelmien jäljittäminen

Generatiivisen tekoälyn leviämisen jatkuessa kaikkialla maailmassa, nyt on saatavilla kehittyneitä työkaluja, jotka myös levittävät haitallista sisältöä. Taylor Swiftin tapauksen yhteydessä syväväärennösten havaitsemisryhmä Reality Defender seurasi lukuisia pornografisia materiaaleja, jotka kuvasivat poptähteä, erityisesti X:llä, kun taas toiset olivat Facebookissa ja muilla sosiaalisen median alustoilla.

Uhatustiedustelun Memetica-ryhmän Ben Deckerin mukaan kuvat Taylor Swift Aluksi tuli Lewd DALL-E -kampanjasta, joka on erikoistunut seksuaalisesti avoimeen tekoälyn luomiin kuviin julkkisnaisista.

"Se on osa pitkäkestoista, kiistanalaista suhdetta peikojen ja alustojen välillä", Decker sanoi.

"Niin kauan kuin alustat ovat olemassa, peikot yrittävät häiritä niitä. Ja niin kauan kuin peikkoja on olemassa, alustat häiriintyvät. Joten kysymys todella tulee: kuinka monta kertaa tämä tapahtuu vielä ennen kuin tapahtuu mitään vakavaa muutosta?

- Valkoinen talo perjantaina punnittiin asiaa ja kutsui väärennettyjä kuvia "hälyttäviksi" ja kehotti sosiaalisen median alustoja ottaa vastuuta estääkseen väärän tiedon leviämisen.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/