Το Twitch απαγορεύει την εκπομπή Seinfeld που δημιουργήθηκε από AI για τρανσφοβικά αστεία

Το Twitch απαγορεύει την εκπομπή Seinfeld που δημιουργήθηκε από AI για τρανσφοβικά αστεία

Χρονική σήμανση: 6 Φεβρουαρίου 2023 8:03 μ.μ.
Κόμβος πηγής: 1944150

Βίντεο Το Seinfeld spoof Nothing, Forever – μια κωμική σειρά που αναπτύχθηκε χρησιμοποιώντας γενετική τεχνητή νοημοσύνη – έχει αποκλειστεί προσωρινά στο Twitch αφού ένας από τους χαρακτήρες εκτόξευσε κατά λάθος τρανσφοβικές βωμολοχίες.

Η παράξενη παράσταση έκανε πρωτοσέλιδα την περασμένη εβδομάδα για τη χρήση της τεχνητής νοημοσύνης για να αυτοσχεδιάσουν οπτικά και σενάρια ενός ατελείωτου επεισοδίου του Seinfeld. Σε κωμωδία που μιμείται την τέχνη, sitcom 30 Rock προβλεπόμενη κάτι τέτοιο πριν από πάνω από 15 χρόνια.

Οι χαρακτήρες, διαμορφωμένοι σύμφωνα με τους χαρακτήρες της εμβληματικής κωμικής σειράς Jerry, George, Elaine και Kramer, εκφέρουν έναν διάλογο εντελώς φτιαγμένο χρησιμοποιώντας τα μοντέλα γλώσσας GPT-3 του OpenAI. Το κείμενο μεταφράζεται σε ήχο χρησιμοποιώντας αλγόριθμους μετατροπής κειμένου σε ομιλία και τα φόντο και οι σκηνές δημιουργούνται επίσης με τεχνητή νοημοσύνη. Nothing, το Forever έκανε streaming στο Twitch 24/7 και έχει προσελκύσει πολλούς followers από τότε που ξεκίνησε να προβάλλεται πέρυσι τον Δεκέμβριο.

Αλλά η κανάλι η φιλοξενία της εκπομπής καταργήθηκε τη Δευτέρα για παραβιάζοντας Πολιτικές περιεχομένου του Twitch. Ο Skyler Hartle, συνιδρυτής της Mismatch Media και ένας από τους δημιουργούς πίσω από το Nothing, Forever, είπε Το μητρώο Η απαγόρευση εκδόθηκε επειδή ο κύριος χαρακτήρας, ο Λάρι Φάινμπεργκ, έκανε προσβλητικά σχόλια λέγοντας ότι τα τρανς άτομα «καταστρέφουν τον ιστό της κοινωνίας», ότι το να είσαι τρανς είναι ψυχική ασθένεια και ότι «όλοι οι φιλελεύθεροι είναι κρυφά ομοφυλόφιλοι».

Μπορείτε να παρακολουθήσετε την κακή σκηνή stand-up παρακάτω.

Βίντεο από το YouTube

Ο Χάρτλ είπε ότι το σενάριο της σειράς ξέφυγε από την τροχιά όταν οι δημιουργοί της άλλαξαν από τη χρήση του μοντέλου Davinci του OpenAI GPT-3 σε μια λιγότερο ισχυρή και φθηνότερη έκδοση που ονομάζεται Curie και δεν εφάρμοσαν λειτουργίες λογισμικού για να μετριάσουν το περιεχόμενό της.

«Είχαμε ένα πρόβλημα με τη σύνδεσή μας με τον Davinci χθες το βράδυ και έπρεπε να μεταβούμε στο μοντέλο Curie, ενώ το πρόβλημα επιλύθηκε από μόνο του. Αυτό ήταν όταν δημιουργήθηκε το ακατάλληλο κείμενο και το τερματίσαμε αμέσως. Ερευνήσαμε περαιτέρω το ζήτημα και ανακαλύψαμε ότι δεν αξιοποιούσαμε σωστά τα εργαλεία εποπτείας περιεχομένου του OpenAI», μας είπε.

Ο Χάρτλ επιβεβαίωσε ότι η απαγόρευση είναι προσωρινή και θα διαρκέσει 14 ημέρες. Το Mismatch Media εργάζεται τώρα για την ανάπτυξη των εργαλείων εποπτείας περιεχομένου του OpenAI και εξετάζει επίσης ένα δευτερεύον σύστημα για την παρακολούθηση των εξόδων του μοντέλου. 

«Το κείμενο που δημιουργήσαμε ήταν ένα λάθος, είμαστε πολύ ντροπιασμένοι και ότι το δημιουργικό περιεχόμενο που δημιουργήθηκε δεν αντικατοπτρίζει σε καμία περίπτωση τις αξίες ή τις απόψεις του προσωπικού μας. Λυπούμαστε πολύ για αυτό που συνέβη και ελπίζουμε να επιστρέψουμε σύντομα στον αέρα, με όλες τις κατάλληλες δικλείδες ασφαλείας», είπε.

Τα μοντέλα μεγάλων γλωσσών όπως το GPT-3 εκπαιδεύονται από κείμενο που έχει αφαιρεθεί από το διαδίκτυο και μπορεί να δημιουργήσουν ακατάλληλη, προσβλητική γλώσσα. Τα φίλτρα περιεχομένου μπορούν να ελαχιστοποιήσουν το χειρότερο κείμενο, αλλά τα αποσπάσματα θα εξακολουθούν να διαπερνούν κρυφά, ακόμη και αν υπάρχουν διασφαλίσεις. 

Έστειλε εκπρόσωπος του Twitch Το μητρώο τις κοινοτικές οδηγίες της εταιρείας σχετικά με τη συμπεριφορά μίσους και είπε:

"Δεν σχολιάζουμε συγκεκριμένες παραβιάσεις για λόγους απορρήτου, αλλά λαμβάνουμε τα κατάλληλα μέτρα όταν έχουμε στοιχεία ότι ένα κανάλι έχει ενεργήσει κατά παράβαση των Οδηγιών κοινότητας ή των Όρων Παροχής Υπηρεσιών." ®

Σφραγίδα ώρας:

Περισσότερα από Το μητρώο