Il watermarking sui contenuti non è ancora sufficiente per distinguere tra contenuti reali e contenuti generati dall’intelligenza artificiale, poiché i criminali informatici possono anche aggirare le funzionalità di sicurezza.
Ciò avviene in quanto si è verificata una crescente adozione delle tecnologie di intelligenza artificiale, in particolare dell’intelligenza artificiale generativa, creando un terreno fertile per consentire a individui senza scrupoli di utilizzarla per diffondere disinformazione, odio e altre forme di contenuti dannosi.
E il watermarking è emerso come una delle soluzioni chiave per distinguere tra contenuti generati dall’intelligenza artificiale e contenuti della vita reale. Eppure ha anche i suoi difetti.
Leggi anche: Audio2Photoreal di Meta ora consente avatar fotorealistici alimentati dalla voce
La manipolazione
Gli esperti affermano che la crescita dell’IA deriva anche dal fatto che malintenzionati sfruttano la tecnologia per diffondere disinformazione e malizia e causare panico con notizie false.
Sebbene il watermarking sia stato identificato per consentire agli utenti di distinguere tra contenuti generati dall’intelligenza artificiale e contenuti reali creati dall’uomo, anche questo è soggetto a manipolazione.
Secondo Il registro, alcune firme visibili, come il modello testo-immagine Dall-E, sono tra le più facili da bypassare con lo strumento di rilevamento AI. L'articolo afferma inoltre che individui senza scrupoli possono ritagliare le filigrane o copiare l'immagine in modi che aggirano il download diretto.
Siwei Lyu, professore di informatica presso l'Università di Buffalo negli Stati Uniti, afferma che ci sono anche esperti quando si tratta di superare le barriere.
"La tecnologia di filigrana è stata utilizzata con le pinze perché non è così difficile per qualcuno con conoscenza delle filigrane e dell'intelligenza artificiale riuscire a romperla e rimuovere la filigrana o fabbricarne una", ha affermato Lyu.
Sam Gregory, esperto di intelligenza artificiale e direttore esecutivo di un'organizzazione no-profit che aiuta le persone a utilizzare la tecnologia per promuovere i diritti umani, pensa della ricerca di mercato la filigrana può ancora essere manipolata da cattivi attori.
Per lui si tratta di “uno strumento di triage per la riduzione del danno”, aggiungendo che “non è una soluzione al 100%”.
I tipi di filigrane
Tuttavia, non è tutto rose e fiori per attori cattivi e senza scrupoli. Alcune filigrane invisibili, come quelle di Google DeepMind ID sintetico, sono difficili da eliminare perché sono “incorporati direttamente negli output del sistema Imagen”.
Questo tipo di filigrana non può essere visto ad occhio nudo ma può essere rilevato utilizzando software o algoritmi speciali.
Lyu, tuttavia, pensa ancora che sia possibile per dei furfanti con un po’ di “conoscenza tecnica” eliminare tutto questo”.
“Penso che le filigrane giochino principalmente sull’inconsapevolezza delle persone della propria esistenza. Quindi, se sanno di poterlo fare, troveranno un modo per romperlo”, ha detto Lyu.
Un altro tipo di filigrana è quella visibile, che viene aggiunta a video, testo o immagini da aziende come Google, Getty e OpenAI per verificare la validità dei contenuti.
Il terzo tipo di filigrana sono i metadati crittografici. Questo mostra quando è stato creato il contenuto e come è stato modificato.
Filigrane “lavate”.
Uno studio dell’Università del Maryland guidato da Soheil Feizi, professore di informatica, ha affermato che le filigrane dell’intelligenza artificiale non erano infallibili. Hanno testato tutti i tipi di filigrane e li hanno “rotti tutti”.
"Non disponiamo di alcuna filigrana affidabile a questo punto", ha affermato.
Il professore ha anche spiegato quanto sia facile per i malintenzionati manipolare le filigrane in quello che ha descritto come "lavare via" la filigrana.
Anche un altro studio coautore da ricercatori dell’Università della California, Santa Barbara e della Carnegie Mellon ha avuto gli stessi risultati.
"Tutte le filigrane visibili non sono affidabili", legge la carta.
Problema urgente
Un membro dello staff del Senato americano coinvolto nella stesura della legislazione relativa all’intelligenza artificiale ha detto a Fedscope della necessità di “stare al passo con i cattivi attori”, aggiungendo che il Senato si trova attualmente in un’era di “educazione e definizione del problema”.
"È come per gli atleti olimpici: ora che so che stai cercando questo farmaco, ne prenderò semplicemente un altro."
Con molti paesi andranno alle urne quest’anno non si può trascurare la necessità di adottare misure per ridurre al minimo i deepfake e la disinformazione. Lo scorso settembre, il leader della maggioranza al Senato Chuck Schumer ha affermato che affrontare l’autenticità dei contenuti era un problema questione urgente dato che in molti paesi le elezioni sono alle porte.
"C'è il problema di avere effettivamente deepfake, dove le persone credono davvero... che un candidato stia dicendo qualcosa quando è totalmente una creazione dell'intelligenza artificiale", ha detto dopo il suo primo Intuizione dell'intelligenza artificiale a porte chiuse forum.
Le aziende tecnologiche accettano la sfida
Nel frattempo, è ora operativa la Coalition for Content Provenance and Authenticity (C2PA), nata da un’idea delle aziende tecnologiche e dei media. Ciò identifica la fonte dell'immagine, che si tratti di una fotocamera o di un programma AI utilizzato per crearla.
Fornisce inoltre dettagli sull'ora, il luogo e il metodo di creazione dell'immagine, consentendo alle persone di verificarne la provenienza. Secondo quanto riferito, TikTok è tra le migliori aziende tecnologiche ad assumere un ruolo guida nel watermarking.
“TikTok ti mostra la traccia audio che è stata utilizzata; ti mostra il punto che è stato realizzato; ti mostra gli effetti dell'intelligenza artificiale utilizzati", ha detto Gregory.
Altro grande tech come Alphabet, Amazon, Meta e OpenAI si sono impegnate lo scorso anno a sviluppare una tecnologia di watermarking per contrastare la disinformazione.
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
- PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
- PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
- Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
- Fonte: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :ha
- :È
- :non
- :Dove
- 8
- 9
- a
- capace
- attori
- effettivamente
- aggiunto
- l'aggiunta di
- Adozione
- Vantaggio
- Dopo shavasana, sedersi in silenzio; saluti;
- AI
- Algoritmi
- Tutti
- Consentire
- consente
- Alfabeto
- anche
- Amazon
- tra
- an
- ed
- Un altro
- in qualsiasi
- SONO
- in giro
- articolo
- AS
- At
- Audio
- autenticità
- Vasca
- barriere
- BE
- perché
- stato
- fra
- Big
- Rompere
- Rottura
- Bufalo
- ma
- by
- aggirare
- California
- stanza
- Materiale
- candidato
- non può
- Carnegie Mellon
- Causare
- mandrino
- coalizione
- viene
- Aziende
- computer
- Informatica
- contenuto
- Angolo
- paesi
- creare
- creato
- Creazione
- creazione
- raccolto
- crittografico
- Attualmente
- i criminali informatici
- dall's
- deepfakes
- definizione
- descritta
- dettagli
- rilevato
- rivelazione
- sviluppare
- difficile
- dirette
- direttamente
- Direttore
- Le disinformazioni sanitarie
- distinguere
- Dont
- droga
- più semplice
- facile
- effetti
- Elezioni
- emerse
- enable
- abbastanza
- epoca
- particolarmente
- esecutivo
- Direttore esecutivo
- esperto
- esperti
- ha spiegato
- occhio
- falso
- notizie false
- Caratteristiche
- Trovare
- I risultati
- Aziende
- Nome
- Nel
- forme
- Forum
- ulteriormente
- generativo
- AI generativa
- ottenere
- dato
- dà
- andando
- Terra
- Crescita
- Crescita
- ha avuto
- Hard
- nuocere
- odio
- Avere
- avendo
- he
- aiuta
- lui
- il suo
- Come
- Tuttavia
- HTTPS
- umano
- diritti umani
- i
- MALATO
- identificato
- identifica
- if
- Immagine
- immagini
- in
- individui
- ai miglioramenti
- invisibile
- coinvolto
- problema
- IT
- SUO
- ad appena
- Le
- Genere
- Sapere
- conoscenze
- Cognome
- L'anno scorso
- portare
- leader
- Guidato
- Legislazione
- piace
- località
- cerca
- fatto
- Maggioranza
- maligno
- manipolata
- Manipolazione
- molti
- Maryland
- intanto
- analisi
- Media
- Mellon
- Meta
- Metadati
- metodo
- ridurre al minimo
- Disinformazione
- modello
- soprattutto
- Bisogno
- notizie
- senza scopo di lucro
- organizzazione non profit
- adesso
- of
- Olimpico
- on
- ONE
- OpenAI
- or
- organizzazione
- Altro
- su
- uscite
- Pace
- Panico
- Carta
- Persone
- persone
- fotorealistico
- posto
- Platone
- Platone Data Intelligence
- PlatoneDati
- Giocare
- punto
- possibile
- Insegnante
- Programma
- promuoverlo
- provenienza
- Leggi
- di rose
- veramente
- riduzione
- affidabile
- rimuovere
- riferito
- ricercatori
- Rid
- diritti
- Roseo
- Suddetto
- sale
- Sam
- stesso
- Babbo
- santa barbara
- dire
- detto
- Scienze
- problemi di
- visto
- Senato
- Settembre
- carenze
- Spettacoli
- firme
- So
- Software
- soluzione
- Soluzioni
- alcuni
- Qualcuno
- qualcosa
- Fonte
- la nostra speciale
- software speciale
- diffondere
- stati
- Ancora
- Studio
- tale
- sistema
- attrezzatura
- Affronto
- Fai
- presa
- Tech
- tech
- Tecnologie
- Tecnologia
- testato
- testo
- che
- Il
- L’ORIGINE
- loro
- Li
- Là.
- di
- think
- pensa
- Terza
- questo
- quest'anno
- Attraverso
- tic toc
- tempo
- a
- detto
- pure
- top
- COMPLETAMENTE
- pista
- smistamento
- Digitare
- Tipi di
- Università
- University of California
- Università del Maryland
- us
- Senato degli Stati Uniti
- uso
- utilizzato
- utenti
- utilizzando
- verificare
- Video
- visibile
- Prima
- filigrana
- watermarking
- filigrane
- Modo..
- modi
- Che
- quando
- se
- quale
- volere
- con
- anno
- ancora
- Tu
- zefiro