Le filigrane du contenu ne suffit toujours pas à distinguer le contenu réel du contenu généré par l'IA, car les cybercriminels peuvent également contourner les fonctionnalités de sécurité.
Cela survient alors que l’adoption croissante des technologies d’IA, en particulier de l’IA générative, crée un terrain fertile pour que des individus sans scrupules les utilisent pour diffuser de la désinformation, de la haine et d’autres formes de contenu malveillant.
Et le filigrane est devenu l’une des solutions clés pour faire la distinction entre le contenu généré par l’IA et le contenu réel. Mais il a aussi ses défauts.
A lire également: Audio2Photoreal de Meta permet désormais des avatars photoréalistes à commande vocale
La manipulation
Les experts affirment que la croissance de l’IA s’accompagne également du fait que de mauvais acteurs profitent de la technologie pour propager la désinformation et la malveillance et semer la panique avec de fausses nouvelles.
Bien que le filigrane ait été identifié pour permettre aux utilisateurs de faire la distinction entre le contenu généré par l’IA et le contenu réel créé par l’homme, celui-ci est également sujet à la manipulation.
Selon Le registre, certaines signatures visibles, telles que le modèle texte-image de Dall-E, sont parmi les plus faciles à contourner l'outil de détection de l'IA. L'article indique en outre que des individus sans scrupules peuvent supprimer les filigranes ou copier l'image d'une manière qui contourne le téléchargement direct.
Siwei Lyu, professeur d'informatique à l'Université de Buffalo aux États-Unis, affirme qu'il existe également des experts lorsqu'il s'agit de briser les barrières.
"La technologie du filigrane a été utilisée avec précaution car il n'est pas si difficile pour une personne connaissant les filigranes et l'IA de pouvoir la briser et supprimer le filigrane ou en fabriquer un", a déclaré Lyu.
Sam Gregory, expert en IA et directeur exécutif d'une organisation à but non lucratif qui aide les gens à utiliser la technologie pour promouvoir les droits de l'homme, pense le filigrane peut toujours être manipulé par de mauvais acteurs.
Pour lui, il s’agit « d’un outil de triage pour la réduction des risques », ajoutant que « ce n’est pas une solution à 100 % ».
Les types de filigranes
Cependant, tout n’est pas rose pour les mauvais acteurs sans scrupules. Certains filigranes invisibles, comme celui de Google DeepMind ID de synthèse, sont difficiles à éliminer car ils sont « intégrés directement dans les sorties du système d’Imagen ».
Ce type de filigrane n’est pas visible à l’œil nu mais peut être détecté à l’aide d’un logiciel ou d’algorithmes spéciaux.
Lyu, cependant, pense toujours qu’il est possible pour des canailles possédant un certain « savoir-faire technique de nettoyer cela ».
« Je pense que les filigranes jouent principalement sur le fait que les gens ignorent leur existence. Donc, s’ils savent qu’ils le peuvent, ils trouveront un moyen de le briser », a déclaré Lyu.
Un autre type de filigrane est le filigrane visible, qui est ajouté aux vidéos, textes ou images par des sociétés comme Google, Getty et OpenAI pour vérifier la validité du contenu.
Le troisième type de filigrane concerne les métadonnées cryptographiques. Celui-ci montre quand le contenu a été créé et comment il a été modifié.
Filigranes « lavage »
Une étude de l'Université du Maryland dirigée par Soheil Feizi, professeur d'informatique, a déclaré que les filigranes IA n'étaient pas infaillibles. Ils ont testé tous les types de filigranes et « les ont tous cassés ».
"Nous ne disposons pas de filigrane fiable à ce stade", a-t-il déclaré.
Le professeur a également expliqué à quel point il est facile pour les mauvais acteurs de manipuler les filigranes, ce qu'il a décrit comme « effacer » le filigrane.
Une autre étude co-écrite par des chercheurs de l’Université de Californie à Santa Barbara et Carnegie Mellon a également abouti aux mêmes résultats.
"Tous les filigranes visibles ne sont pas fiables" lit le papier.
Problème urgent
Un membre du Sénat américain impliqué dans l’élaboration d’une législation relative à l’IA a déclaré à Fedscope la nécessité de « suivre le rythme des mauvais acteurs », ajoutant que le Sénat était actuellement dans une ère « d’éducation et de définition du problème ».
"C'est comme les athlètes olympiques : maintenant que je sais que vous recherchez ce médicament, je vais simplement en prendre un autre."
Avec de nombreux pays se rendent aux urnes cette année, la nécessité de mesures visant à minimiser les deepfakes et la désinformation ne peut être négligée. En septembre dernier, le chef de la majorité au Sénat, Chuck Schumer, a déclaré que s'attaquer à l'authenticité du contenu était une priorité. problème urgent étant donné que les élections approchent à grands pas dans de nombreux pays.
"Il y a le problème des deepfakes, où les gens croient vraiment... qu'un candidat dit quelque chose alors qu'il est totalement une création de l'IA", a-t-il déclaré après son premier discours. aperçu de l'IA à huis clos forum.
Les entreprises technologiques relèvent le défi
Entre-temps, la Coalition pour la provenance et l'authenticité du contenu (C2PA), née de l'idée d'entreprises de médias et de technologies, est désormais en place. Cela identifie la source de l’image, qu’il s’agisse d’une caméra ou d’un programme d’IA utilisé pour la créer.
Il donne également des détails sur l’heure, le lieu et la méthode de création de l’image, permettant aux utilisateurs de vérifier sa provenance. TikTok serait l'une des principales entreprises technologiques à prendre les devants en matière de filigrane.
« TikTok vous montre la piste audio qui a été utilisée ; il vous montre le point qui a été réalisé ; il vous montre les effets d'IA utilisés », a déclaré Gregory.
Autre grand entreprises technologiques comme Alphabet, Amazon, Meta et OpenAI se sont engagés l’année dernière à développer une technologie de filigrane pour lutter contre la désinformation.
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- La source: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :possède
- :est
- :ne pas
- :où
- 8
- 9
- a
- Capable
- acteurs
- actually
- ajoutée
- ajoutant
- Adoption
- Avantage
- Après
- AI
- algorithmes
- Tous
- Permettre
- permet
- Alphabet
- aussi
- Amazon
- parmi
- an
- et les
- Une autre
- tous
- SONT
- autour
- article
- AS
- At
- acoustique
- authenticité
- Mal
- obstacles
- BE
- car
- était
- jusqu'à XNUMX fois
- Big
- Pause
- Rupture
- Buffle
- mais
- by
- contourner
- Californie
- appareil photo
- CAN
- candidat
- ne peut pas
- Carnegie Mellon
- Causes
- mandrin
- coalition
- vient
- Sociétés
- ordinateur
- Informatique
- contenu
- Coin
- d'exportation
- engendrent
- créée
- La création
- création
- récolte
- cryptographique
- Lecture
- les cybercriminels
- de dall
- deepfakes
- définir
- décrit
- détails
- détecté
- Détection
- développer
- difficile
- directement
- Directeur
- désinformation
- distinguer
- Ne pas
- drogue
- plus facile
- Easy
- les effets
- Élections
- émergé
- permettre
- assez
- Ère
- notamment
- exécutif
- Directeur exécutif
- expert
- de santé
- expliqué
- œil
- faux
- fausses nouvelles
- Fonctionnalités:
- Trouvez
- résultats
- entreprises
- Prénom
- Pour
- document
- Forum
- plus
- génératif
- IA générative
- obtenez
- donné
- donne
- aller
- Sol
- Croissance
- Croissance
- ait eu
- Dur
- nuire
- haine
- Vous avez
- ayant
- he
- aide
- lui
- sa
- Comment
- Cependant
- HTTPS
- humain
- droits de l'homme
- i
- MAUVAIS
- identifié
- identifie
- if
- image
- satellite
- in
- individus
- développement
- invisible
- impliqué
- aide
- IT
- SES
- juste
- ACTIVITES
- Genre
- Savoir
- spécialisées
- Nom
- L'année dernière
- conduire
- leader
- LED
- Législation
- comme
- emplacement
- recherchez-
- LES PLANTES
- Majorité
- malveillant
- manipulé
- Manipulation
- de nombreuses
- Maryland
- entre-temps
- les mesures
- Médias
- Mellon
- Meta
- Métadonnées
- méthode
- minimiser
- Désinformation
- modèle
- la plupart
- Besoin
- nouvelles
- une organisation à but non lucratif
- à but non lucratif
- maintenant
- of
- Olympique
- on
- ONE
- OpenAI
- or
- organisation
- Autre
- ande
- sorties
- Rythme
- Panique
- Papier
- Personnes
- peopleâ € ™ s
- Photoréaliste
- Place
- Platon
- Intelligence des données Platon
- PlatonDonnées
- Jouez
- Point
- possible
- Professeur
- Programme
- promouvoir
- provenance
- Lire
- réal
- vraiment
- réduction
- fiable
- supprimez
- apparemment
- chercheurs
- Débarrasser
- droits
- rosé
- Saïd
- sel
- Sam
- même
- Père noël
- Santa Barbara
- dire
- dire
- Sciences
- sécurité
- vu
- Sénat
- Septembre
- lacunes
- Spectacles
- Signatures
- So
- Logiciels
- sur mesure
- Solutions
- quelques
- Quelqu'un
- quelque chose
- Identifier
- spécial
- logiciel spécial
- propagation
- États
- Encore
- Étude
- tel
- combustion propre
- tacle
- s'attaquer
- Prenez
- prise
- technologie
- entreprises technologiques
- Les technologies
- Technologie
- examiné
- texte
- qui
- Le
- La Source
- leur
- Les
- Là.
- l'ont
- penser
- Pense
- Troisièmement
- this
- cette année
- Avec
- TikTok
- fiable
- à
- dit
- trop
- outil
- top
- TOTALEMENT
- suivre
- triage
- type
- types
- université
- Université de la Californie
- Université du Maryland
- us
- Sénat américain
- utilisé
- d'utiliser
- utilisateurs
- en utilisant
- vérifier
- Vidéos
- visible
- était
- filigrane
- tatouage
- filigranes
- Façon..
- façons
- Quoi
- quand
- que
- qui
- sera
- comprenant
- an
- encore
- you
- zéphyrnet