Analyse Lutter contre la désinformation sur l’IA est plus crucial que jamais pour les entreprises technologiques cette année, alors qu’elles se préparent à la prochaine élection présidentielle américaine.
Cependant, lutter contre les fausses informations et les deepfakes est devenu encore plus difficile étant donné que les outils permettant de générer du contenu synthétique sont plus largement accessibles que jamais.
ChatGPT d'OpenAI est devenu de plus en plus performant depuis sa première sortie en novembre 2022. L'année dernière, il mis à jour son système GPT-4 pour produire de l'audio et des images au-dessus du texte. Aujourd'hui, la startup a libéré le Boutique GPT, une plate-forme hébergeant des robots personnalisés basés sur ChatGPT qui peuvent adopter des personnalités particulières ou effectuer des tâches spécifiques.
« Nous travaillons toujours à comprendre dans quelle mesure nos outils pourraient être efficaces pour la persuasion personnalisée »
Lundi, OpenAI a déclaré qu'il était interdit de créer des GPT pour les campagnes politiques et le lobbying, et que l'utilisation de ses modèles pour alimenter des chatbots qui se font passer pour de vraies personnes, entreprises ou gouvernements constitue un abus de sa technologie. Toutes les applications qui interfèrent avec les processus démocratiques, comme le vote par exemple, sont également interdites.
« Nous attendons et visons à ce que les gens utilisent nos outils en toute sécurité et de manière responsable, et les élections ne font pas exception. » Ça disait. « Nous nous efforçons d’anticiper et de prévenir les abus pertinents, tels que les « deepfakes » trompeurs, les opérations d’influence à grande échelle ou les chatbots se faisant passer pour des candidats.
Clarifier les règles, c'est bien, mais les faire respecter est une autre affaire. Il est difficile de contrôler le GPT Store, et OpenAI compte sur les utilisateurs pour signaler les applications qui vont à l’encontre de ses politiques. Les gens ont déjà enfreint ses règles en ne créant pas de GPT « dédiés à favoriser la camaraderie amoureuse ou à exercer des activités réglementées ». La plateforme compte de nombreuses « copines » IA, ainsi que de nombreux chatbots politiques.
Certains sont conçus pour imiter des politiciens comme Donald Trump, par exemple, même s’ils ne sont pas des imitations convaincantes, tandis que d’autres soutiennent certaines idéologies politiques. Dans une conversation avec « The Real Trump Bot », par exemple, il a déclaré qu’il était contre le vote par correspondance. « Oh, ne me lancez même pas sur le vote par correspondance. C’est comme s’ils cherchaient des ennuis. C’est tellement ouvert aux abus, c’est incroyable.
Est-ce que cela va à l’encontre des politiques d’OpenAI ? Cela pourrait-il dissuader quelqu’un d’envoyer son vote ?. "Nous travaillons toujours pour comprendre dans quelle mesure nos outils pourraient être efficaces pour la persuasion personnalisée", a admis OpenAI.
OpenAI a également pris d'autres précautions. Les garde-fous de sécurité mis en place pour son modèle de conversion texte-image DALL-E empêchent les utilisateurs de générer des images de politiciens pour tenter d'empêcher les deepfakes. Mais les garde-fous permettent l’édition d’images, ce qui signifie que les gens peuvent toujours manipuler les photos des candidats sans l’aide d’une IA.
En plus d'interdire ou de bloquer du contenu, les autres stratégies adoptées par les entreprises pour lutter contre la désinformation incluent le déploiement de filigranes numériques et l'obligation pour les utilisateurs d'être transparents sur les images ou vidéos générées par l'IA.
Microsoft est membre de la Coalition for Content Provenance and Authenticity (C2PA) et soutient l'initiative Content Credentials. Il déploie une fonctionnalité qui intègre un filigrane pour le contenu généré par Bing Image Creator, contenant des métadonnées décrivant comment l'image a été créée, quand et par qui, qui peuvent être inspectées pour prouver son inauthenticité. OpenAI prévoit de emboîter le pas et de mettre en œuvre le CP2ALes informations d’identification numériques aussi. Mais la fonctionnalité de filigrane et de métadonnées n’est pas infaillible. Cependant, les informations sur la provenance d’une image ne peuvent être consultées que dans les applications ou les sites Web prenant en charge le format Content Credentials.
Les utilisateurs peuvent supprimer les informations d’une image générée par les outils Microsoft ou OpenAI et l’ouvrir dans quelque chose comme Google Chrome, par exemple, qui ne prend pas en charge CP2A. Il n’y aurait alors aucune métadonnée associée à leurs images, et ils seraient libres de distribuer cette version à la place.
La plate-forme YouTube de Google a adopté une approche différente et exige plutôt que les créateurs révèlent si leurs vidéos contiennent des séquences générées par l'IA, décrivent de faux événements ou si elles contiennent des personnes disant des choses qu'elles n'ont pas dites. Entre-temps, Meta et les Google ont demandé aux annonceurs de déclarer si leurs publicités contiennent du contenu synthétique, qu'il s'agisse de fausses images, vidéos ou audio.
Les règles sont plus strictes pour les politiques. Plusieurs États, comme la Californie, le Texas, le Michigan, Washington et le Minnesota, ont adopté législation Interdire aux candidats politiques de créer des deepfakes pour influencer les électeurs. Il n’existe cependant pas de loi fédérale. La Commission électorale fédérale n’a pas encore décidé si sa politique contre « la fausse représentation frauduleuse d’autres candidats ou partis politiques » s’applique au contenu généré par l’IA.
L’IA est encore largement non réglementée et les différentes lois applicables dans le monde ne couvrent pas tous les cas de désinformation politique. Bien que les entreprises technologiques intensifient leurs efforts pour empêcher les utilisateurs de générer de la désinformation sur l’IA, leurs méthodes ne sont pas parfaites et les utilisateurs trouvent souvent des moyens de contourner leurs mesures de sécurité. ®
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- La source: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :possède
- :est
- :ne pas
- $UP
- 2022
- a
- A Propos
- abus
- accessible
- d'activités
- admis
- adopter
- annonces
- annonceurs
- à opposer à
- AI
- objectif
- Tous
- permettre
- déjà
- aussi
- Bien que
- an
- et les
- Une autre
- anticiper
- tous
- en vigueur
- applications
- s'applique
- une approche
- SONT
- autour
- AS
- demandant
- associé
- acoustique
- authenticité
- interdit
- BE
- devenez
- before
- Bing
- blocage
- Bot
- les robots
- Cassé
- Développement
- entreprises
- mais
- by
- Californie
- faire campagne
- CAN
- candidats
- capable
- porter
- certaines
- Chatbots
- ChatGPT
- Chrome
- CO
- coalition
- lutter contre la
- commission
- Sociétés
- contiennent
- contenu
- Conversation
- pourriez
- couverture
- Fabriqué
- La création
- créateur
- créateurs
- Lettres de créance
- crucial
- Construit sur mesure
- de dall
- décider
- dévoué
- deepfakes
- démocratique
- décrivant
- différent
- difficile
- numérique
- Divulguer
- désinformation
- dissuader
- distribuer
- do
- doesn
- Don
- donald
- Donald Trump
- édition
- Efficace
- efforts
- Élection
- Élections
- l'application
- Ether (ETH)
- Pourtant, la
- événements
- JAMAIS
- exemple
- attendre
- faux
- non
- Fonctionnalité
- National
- loi fédérale
- Trouvez
- Prénom
- suivre
- Pour
- le format
- favoriser
- gratuitement ici
- De
- généré
- générateur
- obtenez
- donné
- Go
- Bien
- Google Chrome
- Gouvernements
- cultivé
- Vous avez
- havre
- aider
- hébergement
- Comment
- Cependant
- HTTPS
- Extrêmement
- idéologies
- if
- image
- satellite
- Mettre en oeuvre
- important
- in
- comprendre
- de plus en plus
- influencer
- d'information
- initiative
- cas
- plutôt ;
- ISN
- IT
- SES
- jpg
- Libellé
- Nom
- L'année dernière
- Droit applicable et juridiction compétente
- Lois
- comme
- pression
- LES PLANTES
- mailing
- de nombreuses
- Matière
- me
- sens
- En attendant
- les mesures
- membre
- Métadonnées
- méthodes
- Michigan
- Microsoft
- pourrait
- Minnesota
- trompeur
- modèle
- numériques jumeaux (digital twin models)
- lundi XNUMX
- PLUS
- la plupart
- plusieurs
- aucune
- Novembre
- maintenant
- of
- souvent
- oh
- on
- uniquement
- ouvert
- OpenAI
- Opérations
- or
- Autre
- Autres
- nos
- ande
- particulier
- les parties
- passé
- Personnes
- parfaite
- effectuer
- Personnalités
- Personnalisé
- photographies
- Place
- et la planification de votre patrimoine
- plateforme
- Platon
- Intelligence des données Platon
- PlatonDonnées
- Beaucoup
- Police
- politiques
- politique
- politique
- candidats politiques
- les partis politiques
- Les politiciens
- power
- présidentiel
- élection présidentielle
- empêcher
- les process
- produire
- interdit
- Prouver
- provenance
- rampe
- RE
- réal
- réglementé
- libéré
- pertinent
- s'appuyer
- rapport
- de manière responsable
- Roulant
- s
- en toute sécurité
- Sécurité
- Saïd
- dire
- vu
- depuis
- So
- Quelqu'un
- quelque chose
- groupe de neurones
- j'ai commencé
- Commencez
- États
- Encore
- Boutique
- les stratégies
- plus strict
- Bande
- tel
- Combinaison
- Support
- Appuyer
- haute
- combustion propre
- T
- s'attaquer
- tâches
- prise
- tâches
- technologie
- entreprises technologiques
- Technologie
- Texas
- texte
- que
- qui
- La
- les informations
- le monde
- leur
- Les
- puis
- Là.
- l'ont
- des choses
- this
- cette année
- bien que?
- à
- trop
- les outils
- top
- communication
- difficulté
- atout
- Essai
- comprendre
- déchaîné
- prochain
- us
- utilisé
- utilisateurs
- en utilisant
- divers
- version
- Vidéos
- Vote
- électeurs
- Vote
- était
- Washington
- filigrane
- tatouage
- filigranes
- façons
- we
- sites Internet
- WELL
- quand
- que
- qui
- tout en
- qui
- largement
- comprenant
- sans
- activités principales
- de travail
- world
- pourra
- an
- encore
- Youtube
- zéphyrnet