Το X κυνηγά τους συντονιστές περιεχομένου μετά το χάος της Taylor Swift

Το X είναι συντονιστές περιεχομένου που κυνηγούν το κεφάλι για να αντιμετωπίσουν τη σεξουαλική εκμετάλλευση παιδιών και άλλο ρητό περιεχόμενο, αφού οι εικόνες X της Taylor Swift που δημιουργήθηκαν από AI έγιναν viral στην πλατφόρμα.

Η εταιρεία μέσων κοινωνικής δικτύωσης θα προσλάβει 100 υπαλλήλους πλήρους απασχόλησης για να αντιμετωπίσει τον πολλαπλασιασμό του deepfake περιεχομένου που είναι πλέον διαδεδομένο όχι μόνο στο X αλλά σε όλες τις πλατφόρμες μέσων κοινωνικής δικτύωσης.

Κέντρο εμπιστοσύνης και ασφάλειας

Με το πρόσθετο προσωπικό, η επιχείρηση που ανήκει στον Έλον Μασκ εξετάζει επίσης τώρα την ανάπτυξη ενός «κέντρου εμπιστοσύνης και ασφάλειας» στο Ώστιν του Τέξας. Εδώ, οι πράκτορες θα είναι υπεύθυνοι για τον έλεγχο του περιεχομένου σύμφωνα με το κανόνες ασφαλείας της εταιρείας.

Οι εξελίξεις έρχονται επίσης καθώς οι πλατφόρμες μέσων κοινωνικής δικτύωσης χρησιμοποιούνται πλέον από κακούς ηθοποιούς για να διαπράξουν βία, ρατσισμό, απάτη και σεξουαλική εκμετάλλευση παιδιών.

"Η X δεν έχει επιχειρηματική δραστηριότητα που επικεντρώνεται στα παιδιά, αλλά είναι σημαντικό να κάνουμε αυτές τις επενδύσεις για να εμποδίσουμε τους παραβάτες να χρησιμοποιούν την πλατφόρμα μας για οποιαδήποτε διανομή ή ενασχόληση με περιεχόμενο ΜΑΚ." είπε Ο Joe Benarroch, ο οποίος είναι επικεφαλής των επιχειρηματικών δραστηριοτήτων στο X.

Η πλατφόρμα έχει επικριθεί μετά τον πολλαπλασιασμό του αντισημιτικού και νεοναζιστικού περιεχομένου. Αυτό είχε ως αποτέλεσμα πολλοί διαφημιστές να διαδίδουν την πλατφόρμα.

Σε 2022, Μόσχος απέκτησε την πλατφόρμα κοινωνικής δικτύωσης —τότε το Twitter— έναντι 44 δισεκατομμυρίων δολαρίων για να επιτρέψει την ελευθερία του λόγου στην πλατφόρμα. Αυτό δεν αποδείχθηκε καλά, καθώς ο τεχνολογικός δισεκατομμυριούχος έχει δεχτεί πυρά μετά την περικοπή «του αριθμού των εργαζομένων από τις λειτουργίες εμπιστοσύνης και ασφάλειας της εταιρείας».

Διαβάστε επίσης: Ο τεχνολογικός κλάδος χτυπήθηκε από μαζικές περικοπές θέσεων εργασίας καθώς οι εταιρείες αντικαθιστούν τους εργαζομένους με τεχνητή νοημοσύνη

Προσωρινά μέτρα

Τις τελευταίες εβδομάδες, η πλατφόρμα έχει πλημμυρίσει από σαφείς εικόνες που δημιουργούνται από AI Taylor Swift, ωθώντας τη λεγεώνα των θαυμαστών της να το αντιμετωπίσουν με τη δική τους καμπάνια με πιο θετικές εικόνες της τραγουδίστριας. Οι θαυμαστές έτρεξαν με το hashtag #ProtectTaylorSwift.

Για το X, η πλατφόρμα μπλόκαρε περαιτέρω αναζητήσεις για τον μουσικό. Σύμφωνα με την New York Post, οι χρήστες που επιχείρησαν να αναζητήσουν το όνομά της τη Δευτέρα πήραν ένα σφάλμα μήνυμα που τους ζητά να προσπαθήσουν ξανά, προσθέτοντας: "Μην ανησυχείτε - δεν φταις εσύ".

Ωστόσο, αναρτήσεις με το όνομά της εμφανίζονταν κάθε φορά που οι χρήστες πρόσθεταν αποσπάσματα γύρω από το όνομά της, με ορισμένους ειδικούς να υποστηρίζουν ότι η προσέγγιση της Χ για τον χειρισμό του ζητήματος άφηνε πολλά να είναι επιθυμητή.

«Αυτή είναι μια προσωρινή ενέργεια και γίνεται με μεγάλη προσοχή, καθώς δίνουμε προτεραιότητα στην ασφάλεια σε αυτό το ζήτημα», δήλωσε ο Benarroch σε δήλωση.

Ωστόσο, ορισμένοι από τους θαυμαστές της Taylor Swift έκαναν αναφορά σε λογαριασμούς που μοιράστηκαν τις βαθιά ψεύτικες εικόνες.

Ανίχνευση των προβλημάτων

Με το γενεσιουργό AI να συνεχίζει να κερδίζει έλξη σε όλο τον κόσμο, υπάρχουν πλέον εξελιγμένα εργαλεία που είναι επίσης διαθέσιμα για τη διάδοση κακόβουλου περιεχομένου. Με το περιστατικό της Taylor Swift, το Reality Defender, μια ομάδα ανίχνευσης deepfake, παρακολούθησε πολυάριθμα πορνογραφικά υλικά που απεικόνιζαν τον ποπ σταρ, ειδικά στο X, ενώ άλλα ήταν στο Facebook και σε άλλες πλατφόρμες κοινωνικών μέσων.

Σύμφωνα με τον Ben Decker της ομάδας πληροφοριών απειλών Memetica, οι εικόνες του Taylor Swift προήλθε για πρώτη φορά από μια καμπάνια που ονομάζεται Lewd DALL-E, η οποία ειδικεύεται σε σεξουαλικές εικόνες διασημοτήτων που δημιουργούνται από την τεχνητή νοημοσύνη.

«Είναι μέρος μιας μακροχρόνιας, αντίπαλης σχέσης μεταξύ των trolls και των πλατφορμών», είπε ο Decker.

«Όσο υπάρχουν πλατφόρμες, τα τρολ θα προσπαθήσουν να τις διαταράξουν. Και όσο υπάρχουν τα τρολ, οι πλατφόρμες θα διαταραχθούν. Έτσι, το ερώτημα γίνεται πραγματικά, πόσες φορές θα συμβεί αυτό πριν υπάρξει κάποια σοβαρή αλλαγή;».

Η Λευκός Οίκος την Παρασκευή εξέτασε το θέμα, χαρακτηρίζοντας τις ψεύτικες εικόνες «ανησυχητικές» και καλώντας τις πλατφόρμες μέσων κοινωνικής δικτύωσης να αναλάβει την ευθύνη για την πρόληψη της διάδοσης παραπληροφόρησης.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/