Analiza Boj proti dezinformacijam umetne inteligence je letos bolj kot kdaj koli prej ključnega pomena za tehnološka podjetja, ko se pripravljajo na prihajajoče predsedniške volitve v ZDA.
Boj proti lažnim informacijam in globokim ponaredkom pa je postal le še težji, saj so orodja za ustvarjanje sintetične vsebine širše dostopna kot kdaj koli prej.
ChatGPT OpenAI postaja vse bolj zmogljiv, odkar je bil prvič izdan novembra 2022. Lani je nadgrajen svoj sistem GPT-4 za ustvarjanje zvoka in slik na vrhu besedila. Zdaj je startup sprostil Trgovina GPT, platforma, ki gosti prilagojene bote, ki temeljijo na ChatGPT in lahko sprejmejo določene osebnosti ali izvajajo posebne naloge.
"Še vedno si prizadevamo razumeti, kako učinkovita so lahko naša orodja za personalizirano prepričevanje"
V ponedeljek je OpenAI izjavil, da je izdelava GPT-jev za politično kampanjo in lobiranje prepovedana, uporaba njegovih modelov za napajanje kakršnih koli klepetalnih robotov, ki se predstavljajo kot resnični ljudje, podjetja ali vlade, pa je zloraba njihove tehnologije. Prepovedane so tudi vse aplikacije, ki posegajo v demokratične procese, kot je na primer glasovanje.
"Pričakujemo in si prizadevamo, da bodo ljudje naša orodja uporabljali varno in odgovorno, in volitve niso nič drugačne," je reklo. »Delamo na predvidevanju in preprečevanju ustreznih zlorab, kot so zavajajoče 'globoke ponaredke', operacije povečanega vplivanja ali klepetalni roboti, ki lažno predstavljajo kandidate.«
Pojasniti pravila je dobro in dobro, a njihovo uveljavljanje je druga stvar. Trgovino GPT je težko nadzorovati, OpenAI pa se zanaša na uporabnike, da prijavijo aplikacije, ki so v nasprotju z njegovimi pravilniki. Ljudje so že kršili njegova pravila glede tega, da niso ustvarili GPT-jev, »namenjenih spodbujanju romantičnega druženja ali izvajanju reguliranih dejavnosti«. Platforma ima veliko »prijateljic« AI, veliko pa je tudi političnih klepetalnic.
Nekateri so oblikovani tako, da posnemajo politike, kot je na primer Donald Trump, čeprav niso prepričljive imitacije, drugi pa podpirajo določene politične ideologije. V pogovoru z "The Real Trump Bot" je na primer dejal, da je proti glasovanju po pošti. »Oh, nikar me ne navajajte na glasovanje po pošti. Kot da zahtevajo težave. Tako odprto za zlorabe, da je neverjetno.«
Ali je to v nasprotju s politiko OpenAI? Bi lahko koga odvrnilo od pošiljanja svojega glasu po pošti?. "Še vedno si prizadevamo razumeti, kako učinkovita so lahko naša orodja za personalizirano prepričevanje," je priznal OpenAI.
OpenAI je sprejel tudi druge varnostne ukrepe. Varnostne ograje za njegov model besedila v sliko DALL-E preprečujejo uporabnikom, da bi ustvarili slike politikov, da bi poskušali preprečiti globoke ponaredke. Toda zaščitne ograje omogočajo urejanje slik, kar pomeni, da lahko ljudje še vedno manipulirajo s fotografijami kandidatov brez pomoči AI.
Poleg prepovedi ali blokiranja vsebine druge strategije, ki jih podjetja uporabljajo za boj proti dezinformacijam, vključujejo uvajanje digitalnih vodnih žigov in zahtevo, da so uporabniki pregledni glede slik ali videoposnetkov, ustvarjenih z umetno inteligenco.
Microsoft je član združenja Coalition for Content Provenance and Authenticity (C2PA) in podpira pobudo Content Credentials. Uvaja funkcijo, ki vdela vodni žig za vsebino, ki jo ustvari Bing Image Creator, ki vsebuje metapodatke, ki opisujejo, kako je bila slika narejena, kdaj in kdo jo je mogoče pregledati, da se dokaže njena nepristnost. OpenAI namerava slediti zgledu in implementirati CP2Atudi njegove digitalne poverilnice. Vendar funkcija vodnega žiga in metapodatkov ni varna. Vendar pa je informacije o poreklu slike mogoče videti le v aplikacijah ali spletnih mestih, ki podpirajo format poverilnic vsebine.
Uporabniki lahko odstranijo informacije iz slike, ki jo ustvarijo orodja Microsofta ali OpenAI, in jih odprejo v nečem podobnem Google Chromu, na primer, ki ne podpira CP2A. Takrat ne bi bilo metapodatkov, povezanih z njihovimi slikami, in namesto tega bi lahko prosto distribuirali to različico.
Googlova platforma YouTube je ubrala drugačen pristop in namesto tega od ustvarjalcev zahteva, da razkrijejo, ali njihovi videoposnetki vsebujejo posnetke, ustvarjene z umetno inteligenco, prikazujejo lažne dogodke ali vsebujejo ljudi, ki govorijo stvari, ki jih niso povedali. medtem, Meta in google so od oglaševalcev zahtevali, da se prijavijo, ali njihovi oglasi vsebujejo sintetično vsebino, pa naj gre za ponarejene slike, videe ali zvok.
Za politike so pravila strožja. Preteklo je več držav, kot so Kalifornija, Teksas, Michigan, Washington in Minnesota legalizacija političnim kandidatom prepovedati objavljanje globokih ponaredkov, da bi vplivali na volivce. Vendar zveznega zakona ni. Zvezna volilna komisija se mora še odločiti, ali njena politika proti "prevarantskemu napačnemu predstavljanju drugih kandidatov ali političnih strank" velja za vsebino, ki jo ustvari umetna inteligenca.
Umetna inteligenca je še vedno večinoma neregulirana in različni zakoni, ki veljajo po vsem svetu, ne zajemajo vseh primerov političnih dezinformacij. Čeprav tehnološka podjetja krepijo prizadevanja, da bi uporabnikom preprečila ustvarjanje dezinformacij o umetni inteligenci, njihove metode niso popolne in uporabniki pogosto najdejo načine, kako zaobiti njihove varnostne ukrepe. ®
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
- PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
- PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
- PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
- vir: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :ima
- : je
- :ne
- $GOR
- 2022
- a
- O meni
- zloraba
- dostopen
- dejavnosti
- priznal
- sprejme
- oglasi
- oglaševalci
- proti
- AI
- Cilj
- vsi
- omogočajo
- že
- Prav tako
- Čeprav
- an
- in
- Še ena
- pričakujte
- kaj
- primerno
- aplikacije
- velja
- pristop
- SE
- okoli
- AS
- sprašuje
- povezan
- audio
- Pristnost
- prepovedana
- BE
- postanejo
- pred
- bing
- blokiranje
- Bot
- bote
- Broken
- Building
- podjetja
- vendar
- by
- california
- kampanje
- CAN
- kandidati
- lahko
- opravlja
- nekatere
- klepetalnice
- ChatGPT
- Krom
- CO
- koalicija
- boj proti
- Komisija
- Podjetja
- vsebujejo
- vsebina
- Pogovor
- bi
- pokrov
- izdelana
- Ustvarjanje
- kreator
- Ustvarjalci
- Mandatno
- ključnega pomena
- Custom zgrajena
- dall's
- odloča
- namenjen
- deepfakes
- demokratična
- Opisuje
- drugačen
- težko
- digitalni
- Razkrije
- dezinformacija
- odvračati
- distribuirati
- do
- ne
- don
- Donald
- Donald Trump
- urejanje
- Učinkovito
- prizadevanja
- Volitve
- Volitve
- uveljavljanje
- Eter (ETH)
- Tudi
- dogodki
- VEDNO
- Primer
- pričakovati
- ponaredek
- false
- Feature
- Zvezna
- zvezni zakon
- Najdi
- prva
- sledi
- za
- format
- gojenje
- brezplačno
- iz
- ustvarila
- ustvarjajo
- dobili
- dana
- Go
- dobro
- Google Chrome
- Vlade
- goji
- Imajo
- pristanišče
- pomoč
- gostovanje
- Kako
- Vendar
- HTTPS
- Ogromno
- ideologije
- if
- slika
- slike
- izvajati
- Pomembno
- in
- vključujejo
- vedno
- vplivajo
- Podatki
- pobuda
- primerov
- Namesto
- isn
- IT
- ITS
- jpg
- label
- Zadnja
- Lansko leto
- zakon
- Zakoni
- kot
- lobiranje
- je
- Poštni
- več
- Matter
- me
- kar pomeni,
- Medtem
- ukrepe
- član
- metapodatki
- Metode
- Michigan
- Microsoft
- morda
- Minnesota
- zavajajoče
- Model
- modeli
- Ponedeljek
- več
- večinoma
- več
- št
- november
- zdaj
- of
- pogosto
- oh
- on
- samo
- odprite
- OpenAI
- operacije
- or
- Ostalo
- drugi
- naši
- ven
- zlasti
- Stranke
- opravil
- ljudje
- popolna
- izvajati
- Osebnosti
- Prilagojene
- fotografije
- Kraj
- načrtovanje
- platforma
- platon
- Platonova podatkovna inteligenca
- PlatoData
- Veliko
- policija
- politike
- politika
- političnih
- politični kandidati
- politične stranke
- Politiki
- moč
- predsedniški
- predsedniške volitve
- preprečiti
- Procesi
- proizvodnjo
- prepovedana
- Dokaži
- izvor
- ramping
- RE
- pravo
- urejeno
- sprosti
- pomembno
- zanašanje
- poročilo
- odgovorno
- Valjanje
- pravila
- s
- varno
- Varnost
- Je dejal
- rek
- videl
- saj
- So
- nekdo
- Nekaj
- specifična
- začel
- zagon
- Države
- Še vedno
- trgovina
- strategije
- strožji
- Strip
- taka
- Suit
- podpora
- Podpora
- sintetična
- sistem
- T
- reševanje
- sprejeti
- ob
- Naloge
- tech
- Tech podjetja
- Tehnologija
- texas
- besedilo
- kot
- da
- O
- informacije
- svet
- njihove
- Njih
- POTEM
- Tukaj.
- jih
- stvari
- ta
- letos
- čeprav?
- do
- tudi
- orodja
- vrh
- pregleden
- Težava
- adut
- poskusite
- razumeli
- sproščeno
- prihajajoče
- us
- uporaba
- Uporabniki
- uporabo
- različnih
- različica
- Video posnetki
- Glasuj
- volivci
- Glasovanje
- je
- washington
- vodni žig
- Vodni žig
- vodnih žigov
- načini
- we
- spletne strani
- Dobro
- kdaj
- ali
- ki
- medtem
- koga
- pogosto
- z
- brez
- delo
- deluje
- svet
- bi
- leto
- še
- youtube
- zefirnet