Analisi Affrontare la disinformazione basata sull’intelligenza artificiale è più cruciale che mai quest’anno per le aziende tecnologiche che si preparano alle imminenti elezioni presidenziali americane.
Combattere le false informazioni e i deepfake, tuttavia, è diventato ancora più difficile dato che gli strumenti per generare contenuti sintetici sono più ampiamente accessibili che mai.
ChatGPT di OpenAI è diventato sempre più potente da quando è stato rilasciato per la prima volta nel novembre 2022. L'anno scorso aggiornato il suo sistema GPT-4 per produrre audio e immagini sopra il testo. Ora, la startup ha scatenato il Negozio GPT, una piattaforma che ospita bot personalizzati basati su ChatGPT che possono adottare personalità particolari o svolgere compiti specifici.
"Stiamo ancora lavorando per capire quanto potrebbero essere efficaci i nostri strumenti per la persuasione personalizzata"
Lunedì, OpenAI ha affermato che la creazione di GPT per campagne politiche e lobbying è vietata e che utilizzare i suoi modelli per alimentare chatbot che impersonano persone, aziende o governi reali è un abuso della sua tecnologia. Sono vietate anche tutte le applicazioni che interferiscono con i processi democratici, come ad esempio il voto.
"Ci aspettiamo e miriamo a che le persone utilizzino i nostri strumenti in modo sicuro e responsabile, e le elezioni non sono diverse", ha detto. "Lavoriamo per anticipare e prevenire abusi rilevanti, come "deepfake" fuorvianti, operazioni di influenza su larga scala o chatbot che si spacciano per candidati."
Chiarire le regole è giusto, ma farle rispettare è un’altra questione. È difficile sorvegliare il GPT Store e OpenAI fa affidamento sugli utenti per segnalare le applicazioni che vanno contro le sue politiche. Le persone hanno già infranto le regole che vietano la creazione di GPT “dedicati alla promozione della compagnia romantica o allo svolgimento di attività regolamentate”. La piattaforma è ricca di “fidanzate” IA e ci sono anche molti chatbot politici.
Alcuni sono realizzati per imitare politici come Donald Trump, ad esempio, anche se non sono imitazioni convincenti, mentre altri sostengono determinate ideologie politiche. In una conversazione con “The Real Trump Bot”, ad esempio, ha affermato di essere contrario al voto per corrispondenza. “Oh, non farmi nemmeno iniziare con il voto per corrispondenza. È come se cercassero guai. È così aperto agli abusi, è incredibile.
Ciò va contro le politiche di OpenAI? Potrebbe dissuadere qualcuno dall'inviare il proprio voto?. "Stiamo ancora lavorando per capire quanto efficaci potrebbero essere i nostri strumenti per la persuasione personalizzata", ha ammesso OpenAI.
OpenAI ha preso anche altre precauzioni. Le barriere di sicurezza in atto per il suo modello di testo in immagine DALL-E impediscono agli utenti di generare immagini di politici per cercare di prevenire i deepfake. Ma i guardrail consentono la modifica delle immagini, il che significa che le persone possono ancora manipolare le fotografie dei candidati senza l’aiuto dell’intelligenza artificiale.
Oltre a vietare o bloccare i contenuti, le altre strategie che le aziende stanno adottando per combattere la disinformazione includono l’implementazione di filigrane digitali e la richiesta agli utenti di essere trasparenti riguardo alle immagini o ai video generati dall’intelligenza artificiale.
Microsoft è membro della Coalition for Content Provenance and Authenticity (C2PA) e supporta l'iniziativa Content Credentials. Sta lanciando una funzionalità che incorpora una filigrana per i contenuti generati da Bing Image Creator, contenente metadati che descrivono come è stata realizzata l'immagine, quando e da chi, che possono essere ispezionati per dimostrarne l'inautenticità. OpenAI prevede di seguire l'esempio e implementare il CP2Aanche le credenziali digitali. Ma la funzionalità di filigrana e metadati non è infallibile. Tuttavia, le informazioni sulla provenienza di un'immagine possono essere visualizzate solo nelle applicazioni o nei siti Web che supportano il formato Credenziali contenuto.
Gli utenti possono rimuovere le informazioni da un'immagine generata da Microsoft o dagli strumenti OpenAI e aprirla in qualcosa come Google Chrome, ad esempio, che non supporta CP2A. Allora non ci sarebbero metadati associati alle loro immagini e sarebbero invece liberi di distribuire quella versione.
La piattaforma YouTube di Google ha adottato un approccio diverso e richiede invece ai creatori di rivelare se i loro video contengono filmati generati dall'intelligenza artificiale, raffigurano eventi falsi o contengono persone che dicono cose che non hanno detto. Nel frattempo, Meta ed Google hanno chiesto agli inserzionisti di dichiarare se i loro annunci contengono contenuti sintetici, che si tratti di immagini, video o audio falsi.
Le regole sono più severe per i politici. Sono passati più stati, come California, Texas, Michigan, Washington e Minnesota legislazione vietare ai candidati politici di creare deepfake per influenzare gli elettori. Non esiste però una legge federale. La Commissione elettorale federale deve ancora decidere se la sua politica contro la “rappresentazione fraudolenta di altri candidati o partiti politici” si applica ai contenuti generati dall’intelligenza artificiale.
L’intelligenza artificiale è ancora in gran parte non regolamentata e le varie leggi applicabili in tutto il mondo non coprono tutti i casi di disinformazione politica. Sebbene le aziende tecnologiche stiano intensificando gli sforzi per impedire agli utenti di generare disinformazione sull’intelligenza artificiale, i loro metodi non sono perfetti e gli utenti spesso trovano modi per aggirare le loro misure di sicurezza. ®
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
- PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
- PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
- Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :ha
- :È
- :non
- $ SU
- 2022
- a
- WRI
- abuso
- accessibile
- attività
- ammesso
- adottare
- Ads - Annunci
- gli inserzionisti
- contro
- AI
- puntare
- Tutti
- consentire
- già
- anche
- Sebbene il
- an
- ed
- Un altro
- anticipare
- in qualsiasi
- applicabile
- applicazioni
- si applica
- approccio
- SONO
- in giro
- AS
- chiedendo
- associato
- Audio
- autenticità
- vietato
- BE
- diventare
- prima
- Bing
- blocco
- Bot
- bots
- Rotto
- Costruzione
- aziende
- ma
- by
- California
- campagna
- Materiale
- i candidati
- capace
- trasportare
- certo
- chatbots
- ChatGPT
- Chrome
- CO
- coalizione
- combattere
- commissione
- Aziende
- contenere
- contenuto
- Conversazione
- potuto
- coprire
- artigianale
- Creazione
- Creatore
- creatori
- Credenziali
- cruciale
- Custom-built
- dall's
- decide
- dedicato
- deepfakes
- democratico
- descrivendo
- diverso
- difficile
- digitale
- Rilevare
- Le disinformazioni sanitarie
- dissuadere
- distribuire
- do
- doesn
- don
- donald
- Donald Trump
- montaggio
- Efficace
- sforzi
- Elezione
- Elezioni
- far rispettare
- Etere (ETH)
- Anche
- eventi
- EVER
- esempio
- attenderti
- falso
- falso
- caratteristica
- Federale
- legge federale
- Trovate
- Nome
- seguire
- Nel
- formato
- promozione
- Gratis
- da
- generato
- la generazione di
- ottenere
- dato
- Go
- buono
- Google Chrome
- I governi
- cresciuto
- Avere
- porto
- Aiuto
- di hosting
- Come
- Tuttavia
- HTTPS
- Enormemente
- ideologie
- if
- Immagine
- immagini
- realizzare
- importante
- in
- includere
- sempre più
- influenza
- informazioni
- iniziativa
- istanze
- invece
- ISN
- IT
- SUO
- jpg
- Discografica
- Cognome
- L'anno scorso
- Legge
- Legislazione
- piace
- lobbying
- fatto
- mailing
- molti
- Importanza
- me
- significato
- Nel frattempo
- analisi
- membro
- Metadati
- metodi
- Michigan
- Microsoft
- forza
- Minnesota
- ingannevole
- modello
- modelli
- Lunedì
- Scopri di più
- soprattutto
- multiplo
- no
- Novembre
- adesso
- of
- di frequente
- oh
- on
- esclusivamente
- aprire
- OpenAI
- Operazioni
- or
- Altro
- Altri
- nostro
- su
- particolare
- parti
- Passato
- Persone
- perfetta
- esecuzione
- Personalità
- Personalizzata
- fotografie
- posto
- pianificazione
- piattaforma
- Platone
- Platone Data Intelligence
- PlatoneDati
- Abbondanza
- Polizia
- Termini e Condizioni
- politica
- politico
- candidati politici
- i partiti politici
- Politici
- energia
- presidenziale
- Elezioni presidenziali
- prevenire
- i processi
- produrre
- proibito
- Dimostra
- provenienza
- rampante
- RE
- di rose
- regolamentati
- rilasciato
- pertinente
- basandosi
- rapporto
- in modo responsabile
- rotolamento
- norme
- s
- tranquillamente
- Sicurezza
- Suddetto
- detto
- visto
- da
- So
- Qualcuno
- qualcosa
- specifico
- iniziato
- startup
- stati
- Ancora
- Tornare al suo account
- strategie
- più severe
- Striscia
- tale
- Completo
- supporto
- Supporto
- sintetico
- sistema
- T
- Affronto
- preso
- presa
- task
- Tech
- tech
- Tecnologia
- Texas
- testo
- di
- che
- Il
- le informazioni
- il mondo
- loro
- Li
- poi
- Là.
- di
- cose
- questo
- quest'anno
- anche se?
- a
- pure
- strumenti
- top
- trasparente
- guaio
- briscola
- prova
- capire
- scatenato
- imminenti
- us
- uso
- utenti
- utilizzando
- vario
- versione
- Video
- Votazione
- elettori
- Voto
- Prima
- Washington
- filigrana
- watermarking
- filigrane
- modi
- we
- siti web
- WELL
- quando
- se
- quale
- while
- chi
- ampiamente
- con
- senza
- Lavora
- lavoro
- mondo
- sarebbe
- anno
- ancora
- youtube
- zefiro