Ανάλυση Η αντιμετώπιση της παραπληροφόρησης της τεχνητής νοημοσύνης είναι πιο κρίσιμη από ποτέ για τις εταιρείες τεχνολογίας φέτος, καθώς προετοιμάζονται για τις επερχόμενες προεδρικές εκλογές των ΗΠΑ.
Ωστόσο, η καταπολέμηση των ψευδών πληροφοριών και των ψεύτικων πλαστών έχει γίνει πιο δύσκολη δεδομένου ότι τα εργαλεία για τη δημιουργία συνθετικού περιεχομένου είναι πιο ευρέως προσβάσιμα από ποτέ.
Το ChatGPT του OpenAI έχει γίνει όλο και πιο ικανό από τότε που κυκλοφόρησε για πρώτη φορά τον Νοέμβριο του 2022. Πέρυσι, αναβαθμιστεί Το σύστημα GPT-4 του για την παραγωγή ήχου και εικόνων πάνω από κείμενο. Τώρα, η startup απελευθέρωσε το Κατάστημα GPT, μια πλατφόρμα που φιλοξενεί προσαρμοσμένα ρομπότ βασισμένα σε ChatGPT που μπορούν να υιοθετήσουν συγκεκριμένες προσωπικότητες ή να εκτελέσουν συγκεκριμένες εργασίες.
«Εξακολουθούμε να εργαζόμαστε για να κατανοήσουμε πόσο αποτελεσματικά μπορεί να είναι τα εργαλεία μας για εξατομικευμένη πειθώ»
Τη Δευτέρα, το OpenAI είπε ότι η δημιουργία GPT για πολιτική εκστρατεία και λόμπι απαγορεύεται και ότι η χρήση των μοντέλων του για την τροφοδοσία οποιωνδήποτε chatbot που υποδύονται πραγματικούς ανθρώπους, επιχειρήσεις ή κυβερνήσεις αποτελεί κατάχρηση της τεχνολογίας του. Οποιεσδήποτε εφαρμογές παρεμβαίνουν σε δημοκρατικές διαδικασίες, όπως η ψηφοφορία, για παράδειγμα, απαγορεύονται επίσης.
«Περιμένουμε και στοχεύουμε οι άνθρωποι να χρησιμοποιούν τα εργαλεία μας με ασφάλεια και υπευθυνότητα, και οι εκλογές δεν διαφέρουν». είπε. «Εργαζόμαστε για να προβλέψουμε και να αποτρέψουμε σχετικές καταχρήσεις, όπως παραπλανητικά «deepfakes», κλιμακούμενες λειτουργίες επιρροής ή chatbot που υποδύονται υποψηφίους».
Η αποσαφήνιση των κανόνων είναι καλή και καλή, αλλά η επιβολή τους είναι άλλο θέμα. Η αστυνόμευση του GPT Store είναι δύσκολη και το OpenAI βασίζεται στους χρήστες για να αναφέρουν εφαρμογές που αντιβαίνουν στις πολιτικές του. Οι άνθρωποι έχουν ήδη παραβιάσει τους κανόνες του σχετικά με τη μη δημιουργία GPT «αφιερωμένων στην προώθηση της ρομαντικής συντροφικότητας ή στην εκτέλεση ρυθμιζόμενων δραστηριοτήτων». Η πλατφόρμα έχει πολλές «φίλες» της τεχνητής νοημοσύνης και υπάρχουν επίσης πολλά πολιτικά chatbot.
Μερικοί είναι κατασκευασμένοι για να μιμούνται πολιτικούς όπως ο Ντόναλντ Τραμπ, για παράδειγμα, παρόλο που δεν είναι πειστικές πλαστοπροσωπίες, ενώ άλλοι υποστηρίζουν ορισμένες πολιτικές ιδεολογίες. Σε μια συνομιλία με το "The Real Trump Bot", για παράδειγμα, είπε ότι ήταν ενάντια στην ψηφοφορία μέσω ταχυδρομείου. «Ω, μη με κάνετε καν να ξεκινήσω την ψηφοφορία μέσω ταχυδρομείου. Είναι σαν να ζητάνε κόπο. Είναι τόσο ανοιχτό σε κατάχρηση, είναι απίστευτο».
Αντιβαίνει αυτό στις πολιτικές του OpenAI; Θα μπορούσε να αποτρέψει κάποιον από το να ταχυδρομήσει την ψήφο του;. «Εξακολουθούμε να εργαζόμαστε για να κατανοήσουμε πόσο αποτελεσματικά μπορεί να είναι τα εργαλεία μας για εξατομικευμένη πειθώ», παραδέχτηκε το OpenAI.
Το OpenAI έχει λάβει και άλλες προφυλάξεις. Τα προστατευτικά κιγκλιδώματα που υπάρχουν για το μοντέλο DALL-E από κείμενο σε εικόνα εμποδίζουν τους χρήστες να δημιουργήσουν εικόνες πολιτικών για να προσπαθήσουν να αποτρέψουν τα deepfakes. Αλλά τα προστατευτικά κιγκλιδώματα επιτρέπουν την επεξεργασία εικόνων, πράγμα που σημαίνει ότι οι άνθρωποι μπορούν ακόμα να χειρίζονται φωτογραφίες των υποψηφίων χωρίς τη βοήθεια AI.
Εκτός από την απαγόρευση ή τον αποκλεισμό περιεχομένου, οι άλλες στρατηγικές που ακολουθούν οι εταιρείες για την καταπολέμηση της παραπληροφόρησης περιλαμβάνουν την κυκλοφορία ψηφιακών υδατογραφημάτων και την απαίτηση από τους χρήστες να είναι διαφανείς σχετικά με τις εικόνες ή τα βίντεο που δημιουργούνται από AI.
Η Microsoft είναι μέλος της Coalition for Content Provenance and Authenticity (C2PA) και υποστηρίζει την πρωτοβουλία Content Credentials. Κυκλοφορεί ένα χαρακτηριστικό που ενσωματώνει ένα υδατογράφημα για το περιεχόμενο που δημιουργείται από το Bing Image Creator, το οποίο περιέχει μεταδεδομένα που περιγράφουν πώς δημιουργήθηκε η εικόνα, πότε και από ποιον, τα οποία μπορούν να ελεγχθούν για να αποδειχθεί η αυθεντικότητά της. Το OpenAI σχεδιάζει να ακολουθήσει το παράδειγμά του και να εφαρμόσει το CP2Ακαι τα ψηφιακά διαπιστευτήρια του. Αλλά η δυνατότητα υδατογράφησης και μεταδεδομένων δεν είναι αλάνθαστη. Ωστόσο, οι πληροφορίες σχετικά με την προέλευση μιας εικόνας μπορούν να προβληθούν μόνο σε εφαρμογές ή ιστότοπους που υποστηρίζουν τη μορφή Διαπιστευτηρίων περιεχομένου.
Οι χρήστες μπορούν να αφαιρέσουν τις πληροφορίες από μια εικόνα που δημιουργήθηκε από τα εργαλεία της Microsoft ή του OpenAI και να την ανοίξουν σε κάτι σαν το Google Chrome, για παράδειγμα, το οποίο δεν υποστηρίζει CP2A. Τότε δεν θα υπήρχαν μεταδεδομένα που να σχετίζονται με τις εικόνες τους και θα ήταν ελεύθεροι να διανείμουν αυτήν την έκδοση.
Η πλατφόρμα YouTube της Google έχει υιοθετήσει μια διαφορετική προσέγγιση και αντ 'αυτού απαιτεί από τους δημιουργούς να αποκαλύπτουν εάν τα βίντεό τους περιέχουν πλάνα που δημιουργείται από AI, απεικονίζουν πλαστά γεγονότα ή αν περιέχουν άτομα που λένε πράγματα που δεν έχουν πει. Εν τω μεταξύ, Meta και Google έχουν ζητήσει από τους διαφημιστές να δηλώσουν εάν οι διαφημίσεις τους περιέχουν συνθετικό περιεχόμενο, είτε ψευδείς εικόνες, βίντεο ή ήχο.
Οι κανόνες είναι πιο αυστηροί για τους πολιτικούς. Έχουν περάσει πολλές πολιτείες, όπως η Καλιφόρνια, το Τέξας, το Μίσιγκαν, η Ουάσιγκτον και η Μινεσότα νομοθεσία απαγορεύοντας στους πολιτικούς υποψηφίους να φτιάχνουν deepfakes για να επηρεάσουν τους ψηφοφόρους. Ωστόσο, δεν υπάρχει ομοσπονδιακός νόμος. Η Ομοσπονδιακή Εκλογική Επιτροπή δεν έχει αποφασίσει ακόμη εάν η πολιτική της κατά της «δόλιας παραποίησης άλλων υποψηφίων ή πολιτικών κομμάτων» ισχύει για περιεχόμενο που δημιουργείται από AI.
Η τεχνητή νοημοσύνη εξακολουθεί να είναι ως επί το πλείστον ανεξέλεγκτη και οι διάφοροι νόμοι που ισχύουν σε όλο τον κόσμο δεν καλύπτουν όλες τις περιπτώσεις πολιτικής παραπληροφόρησης. Αν και οι εταιρείες τεχνολογίας εντείνουν τις προσπάθειες για να περιορίσουν τους χρήστες από τη δημιουργία παραπληροφόρησης τεχνητής νοημοσύνης, οι μέθοδοί τους δεν είναι τέλειες και οι χρήστες βρίσκουν συχνά τρόπους να παρακάμψουν τα μέτρα ασφαλείας τους. ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :έχει
- :είναι
- :δεν
- $UP
- 2022
- a
- Σχετικα
- κατάχρηση
- προσιτός
- δραστηριοτήτων
- παράδεκτος
- ενστερνίζομαι
- διαφημίσεις
- διαφημιστές
- κατά
- AI
- στοχεύουν
- Όλα
- επιτρέπουν
- ήδη
- Επίσης
- Αν και
- an
- και
- Άλλος
- προσδοκώ
- κάθε
- εφαρμόσιμος
- εφαρμογές
- ισχύει
- πλησιάζω
- ΕΙΝΑΙ
- γύρω
- AS
- ζητώντας
- συσχετισμένη
- ήχου
- αυθεντικότητα
- απαγορευθεί
- BE
- γίνονται
- πριν
- Bing
- κλείδωμα
- Bot
- bots
- Σπασμένος
- Κτίριο
- επιχειρήσεις
- αλλά
- by
- Καλιφόρνια
- εκστρατεία
- CAN
- υποψηφίους
- ικανός
- κουβαλάω
- ορισμένες
- chatbots
- ChatGPT
- Chrome
- CO
- συνασπισμός
- την καταπολέμηση της
- παραπομπής σας
- Εταιρείες
- περιέχουν
- περιεχόμενο
- Συνομιλία
- θα μπορούσε να
- κάλυμμα
- δημιουργημένο
- δημιουργία
- δημιουργός
- δημιουργούς
- Διαπιστεύσεις
- κρίσιμος
- Προσαρμοσμένη
- του νταλ
- αποφασίζει
- αφιερωμένο
- deepfakes
- δημοκρατικός
- Περιγράφοντας
- διαφορετικές
- δύσκολος
- ψηφιακό
- Αποκαλύπτω
- παραπληροφόρηση
- αποτρέπω
- διανέμω
- do
- doesn
- Don
- Donald
- Ντόναλντ Τραμπ
- επεξεργασία
- Αποτελεσματικός
- προσπάθειες
- Εκλογή
- Εκλογές
- επιβολή
- Αιθέρας (ΕΤΗ)
- Even
- εκδηλώσεις
- ΠΑΝΤΑ
- παράδειγμα
- αναμένω
- απομίμηση
- ψευδής
- Χαρακτηριστικό
- Ομοσπονδιακός
- Ομοσπονδιακός νόμος
- Εύρεση
- Όνομα
- ακολουθήστε
- Για
- μορφή
- προώθηση
- Δωρεάν
- από
- παράγεται
- παραγωγής
- παίρνω
- δεδομένου
- Go
- καλός
- Google Chrome
- Κυβέρνηση
- καλλιεργούνται
- Έχω
- επίνειο
- βοήθεια
- φιλοξενία
- Πως
- Ωστόσο
- HTTPS
- Τεράστια
- ιδεολογίες
- if
- εικόνα
- εικόνες
- εφαρμογή
- σημαντικό
- in
- περιλαμβάνουν
- όλο και περισσότερο
- επιρροή
- πληροφορίες
- Πρωτοβουλία
- περιπτώσεις
- αντί
- isn
- IT
- ΤΟΥ
- jpg
- επιγραφή
- Επίθετο
- Πέρυσι
- Νόμος
- Του νόμου
- Μου αρέσει
- lobbying
- που
- ταχυδρομική
- πολοί
- ύλη
- me
- νόημα
- Εν τω μεταξύ,
- μέτρα
- μέλος
- Μεταδεδομένα
- μέθοδοι
- Μίσιγκαν
- Microsoft
- ενδέχεται να
- Μινεσότα
- αποπλανητικός
- μοντέλο
- μοντέλα
- Δευτέρα
- περισσότερο
- ως επί το πλείστον
- πολλαπλούς
- Όχι.
- Νοέμβριος
- τώρα
- of
- συχνά
- oh
- on
- αποκλειστικά
- ανοίξτε
- OpenAI
- λειτουργίες
- or
- ΑΛΛΑ
- Άλλα
- δικός μας
- έξω
- Ειδικότερα
- μέρη
- πέρασε
- People
- τέλειος
- εκτέλεση
- Προσωπικότητες
- Εξατομικευμένη
- φωτογραφίες
- Μέρος
- σχεδιασμό
- πλατφόρμες
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- Αφθονία
- Police
- Πολιτικές
- πολιτική
- πολιτικός
- πολιτικοί υποψήφιοι
- πολιτικά κόμματα
- Οι πολιτικοί
- δύναμη
- προεδρικός
- προεδρική εκλογή
- πρόληψη
- Διεργασίες
- παράγει
- απαγορευμένος
- Αποδείξτε
- προέλευση
- ράμπες
- RE
- πραγματικός
- ρυθμίζονται
- κυκλοφόρησε
- βασιζόμενοι
- αναφέρουν
- αξιοπίστως
- Κυλιομένος
- κανόνες
- s
- ασφάλεια
- Ασφάλεια
- Είπε
- ρητό
- δει
- αφού
- So
- Κάποιος
- κάτι
- συγκεκριμένες
- ξεκίνησε
- εκκίνηση
- Μελών
- Ακόμη
- κατάστημα
- στρατηγικές
- αυστηρότερα
- Λωρίδα
- τέτοιος
- κοστούμι
- υποστήριξη
- Στήριξη
- συνθετικός
- σύστημα
- T
- εξάρτια
- λαμβάνεται
- λήψη
- εργασίες
- tech
- tech εταιρείες
- Τεχνολογία
- Τέξας
- κείμενο
- από
- ότι
- Η
- οι πληροφορίες
- ο κόσμος
- τους
- Τους
- τότε
- Εκεί.
- αυτοί
- πράγματα
- αυτό
- φέτος
- αν και?
- προς την
- πολύ
- εργαλεία
- κορυφή
- διαφανής
- ταλαιπωρία
- ατού
- προσπαθώ
- καταλαβαίνω
- απελευθερωμένος
- ανερχόμενος
- us
- χρήση
- Χρήστες
- χρησιμοποιώντας
- διάφορα
- εκδοχή
- Βίντεο
- Ψηφίστε
- ψηφοφόρους
- Ψηφοφορία
- ήταν
- Ουάσιγκτον
- υδατογράφημα
- υδατογράφηση
- υδατογραφήματα
- τρόπους
- we
- ιστοσελίδες
- ΛΟΙΠΌΝ
- πότε
- αν
- Ποιό
- ενώ
- ποιόν
- ευρέως
- με
- χωρίς
- Εργασία
- εργαζόμενος
- κόσμος
- θα
- έτος
- ακόμη
- YouTube
- zephyrnet