analyysi Tekoälyn disinformaation torjuminen on tänä vuonna ratkaisevampaa kuin koskaan teknologiayrityksille, kun ne valmistautuvat tuleviin Yhdysvaltain presidentinvaaleihin.
Väärän tiedon ja syväväärennösten torjunta on kuitenkin vain vaikeutunut, koska synteettisen sisällön luomiseen tarvittavat työkalut ovat laajemmin saatavilla kuin koskaan ennen.
OpenAI:n ChatGPT on kehittynyt entistä tehokkaammaksi sen jälkeen, kun se julkaistiin ensimmäisen kerran marraskuussa 2022. Viime vuonna se päivitetty sen GPT-4-järjestelmä tuottaa ääntä ja kuvia tekstin päälle. Nyt käynnistys on päässyt valloilleen GPT-kauppa, alusta, joka isännöi räätälöityjä ChatGPT-pohjaisia botteja, jotka voivat omaksua tiettyjä persoonallisuuksia tai suorittaa tiettyjä tehtäviä.
"Työskentelemme edelleen ymmärtääksemme, kuinka tehokkaita työkalumme voivat olla henkilökohtaiseen suostutteluun"
OpenAI sanoi maanantaina, että GPT:iden rakentaminen poliittiseen kampanjointiin ja lobbaukseen oli kiellettyä, ja sen mallien käyttäminen oikeita ihmisiä, yrityksiä tai hallituksia jäljittelevien chatbottien tehostamiseen on sen tekniikan väärinkäyttöä. Myös kaikki demokraattisiin prosesseihin sotkeutuvat sovellukset, kuten esimerkiksi äänestäminen, ovat kiellettyjä.
"Odotamme ja pyrimme ihmisten käyttävän työkalujamme turvallisesti ja vastuullisesti, eivätkä vaalit eroa toisistaan", se sanoi. "Työskentelemme ennakoidaksemme ja estääksemme asiaankuuluvia väärinkäytöksiä, kuten harhaanjohtavia 'deepfake'eja, skaalattuja vaikuttamisoperaatioita tai chatbotteja, jotka esiintyvät ehdokkaina."
Sääntöjen selventäminen on hyvä asia, mutta niiden noudattaminen on toinen asia. GPT Storea on vaikea valvoa, ja OpenAI luottaa siihen, että käyttäjät ilmoittavat sovelluksista, jotka ovat vastoin sen käytäntöjä. Ihmiset ovat jo rikkoneet sen sääntöjä siitä, että he eivät luo GPT:itä, jotka on omistettu romanttisen kumppanuuden edistämiseen tai säänneltyjen toimintojen suorittamiseen. Alustalla on paljon tekoälyn "tyttöystäviä", ja siellä on myös monia poliittisia chatbotteja.
Jotkut niistä on suunniteltu matkimaan esimerkiksi Donald Trumpin kaltaisia poliitikkoja, vaikka ne eivät ole vakuuttavia matkimia, kun taas toiset tukevat tiettyjä poliittisia ideologioita. Keskustelussa "The Real Trump Botin" kanssa esimerkiksi se sanoi vastustavansa postitse äänestämistä. ”Voi, älä edes aloita sähköpostiäänestystä. Ihan kuin he vaatisivat vaivaa. Se on niin avoin väärinkäytölle, se on uskomatonta."
Onko se OpenAI:n käytäntöjen vastaista? Voisiko se saada jonkun luopumaan äänestämästä? "Työskentelemme edelleen ymmärtääksemme, kuinka tehokkaita työkalumme voisivat olla henkilökohtaiseen suostutteluun", OpenAI myönsi.
OpenAI on ryhtynyt myös muihin varotoimiin. Sen tekstistä kuvaksi -malliin DALL-E asennetut turvakaiteet estävät käyttäjiä luomasta kuvia poliitikoista yrittääkseen estää syvällisiä väärennöksiä. Mutta suojakaiteet mahdollistavat kuvien muokkaamisen, mikä tarkoittaa, että ihmiset voivat silti käsitellä ehdokkaiden valokuvia ilman tekoälyn apua.
Sisällön kieltämisen tai eston lisäksi muita strategioita, joita yritykset käyttävät disinformaation torjumiseksi, ovat digitaalisten vesileimojen käyttöönotto ja käyttäjien vaatiminen avoimeksi tekoälyn luomien kuvien tai videoiden suhteen.
Microsoft on Coalition for Content Provenance and Authenticity (C2PA) -järjestön jäsen ja tukee Content Credentials -aloitetta. Se ottaa käyttöön ominaisuuden, joka upottaa Bing Image Creatorin luomaan sisältöön vesileiman, joka sisältää metatiedot, jotka kuvaavat kuvan luomista, milloin ja kuka on tehnyt. Ne voidaan tarkastaa sen aitouden osoittamiseksi. OpenAI aikoo seurata esimerkkiä ja toteuttaa CP2Amyös digitaaliset tunnistetiedot. Mutta vesileima- ja metatietoominaisuus ei ole idioottivarma. Tiedot kuvan alkuperästä näkyvät kuitenkin vain sovelluksissa tai verkkosivustoissa, jotka tukevat Content Credentials -muotoa.
Käyttäjät voivat poistaa tiedot Microsoftin tai OpenAI:n työkalujen luomasta kuvasta ja avata sen esimerkiksi Google Chromessa, joka ei tue CP2A:ta. Heidän kuviinsa ei silloin liitettäisi metatietoja, ja he voisivat sen sijaan jakaa sen version vapaasti.
Googlen YouTube-alusta on omaksunut toisenlaisen lähestymistavan ja vaatii sen sijaan sisällöntuottajia paljastamaan, sisältävätkö heidän videonsa tekoälyn luomaa materiaalia, kuvaavatko ne väärennettyjä tapahtumia vai sanovatko ne ihmisiä, joita he eivät ole sanoneet. Sillä välin, Meta ja Google ovat pyytäneet mainostajia ilmoittamaan, sisältävätkö heidän mainoksensa synteettistä sisältöä, olivatpa ne sitten vääriä kuvia, videoita tai ääntä.
Poliitikoille säännöt ovat tiukemmat. Useat osavaltiot, kuten Kalifornia, Texas, Michigan, Washington ja Minnesota, ovat ohittaneet lainsäädäntö poliittisten ehdokkaiden kieltäminen tekemästä vakavia väärennöksiä äänestäjien vaikuttamiseksi. Liittovaltion lakia ei kuitenkaan ole. Liittovaltion vaalilautakunta ei ole vielä päättänyt, koskeeko sen "muiden ehdokkaiden tai poliittisten puolueiden petollisen harhaanjohtamista" koskeva politiikka tekoälyn luomaa sisältöä.
Tekoäly on edelleen enimmäkseen sääntelemätön, eivätkä eri puolilla maailmaa sovellettavat lait kata kaikkia poliittisen disinformaation tapauksia. Vaikka teknologiayritykset tehostavat ponnistelujaan estääkseen käyttäjiä luomasta tekoälyn disinformaatiota, niiden menetelmät eivät ole täydellisiä ja käyttäjät löytävät usein tapoja kiertää turvatoimiaan. ®
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
- PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
- PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
- PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
- Lähde: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :on
- :On
- :ei
- $ YLÖS
- 2022
- a
- Meistä
- hyväksikäyttö
- saatavilla
- toiminta
- hyväksytty
- hyväksyä
- mainokset
- Mainostajat
- vastaan
- AI
- tavoitteena
- Kaikki
- sallia
- jo
- Myös
- Vaikka
- an
- ja
- Toinen
- ennakoida
- Kaikki
- sovelletaan
- sovellukset
- sovelletaan
- lähestymistapa
- OVAT
- noin
- AS
- pyytäminen
- liittyvä
- audio-
- aitous
- kielletty
- BE
- tulevat
- ennen
- Bing
- esto
- Bot
- botit
- Rikki
- Rakentaminen
- yritykset
- mutta
- by
- Kalifornia
- kampanjointia
- CAN
- ehdokkaat
- kykenee
- kuljettaa
- tietty
- chatbots
- ChatGPT
- kromi
- CO
- koalitio
- torjumiseksi
- provision
- Yritykset
- sisältää
- pitoisuus
- Keskustelu
- voisi
- kattaa
- muotoillun
- Luominen
- luoja
- luojat
- Valtakirja
- ratkaiseva
- Erikoisvalmisteinen
- dall's
- päättää
- omistautunut
- deepfakes
- demokraattinen
- kuvataan
- eri
- vaikea
- digitaalinen
- Paljastaa
- harhaanjohtavat tiedot
- varoittaa
- jakaa
- do
- doesnt
- Don
- donald
- Donald Trump
- muokkaus
- Tehokas
- ponnisteluja
- Vaalit
- Vaalit
- täytäntöön
- Eetteri (ETH)
- Jopa
- Tapahtumat
- EVER
- esimerkki
- odottaa
- väärennös
- väärä
- Ominaisuus
- Liitto-
- liittovaltion laki
- Löytää
- Etunimi
- seurata
- varten
- muoto
- edistäminen
- Ilmainen
- alkaen
- syntyy
- tuottaa
- saada
- tietty
- Go
- hyvä
- Google Chrome
- hallitukset
- täysikasvuinen
- Olla
- satama
- auttaa
- hotellit
- Miten
- Kuitenkin
- HTTPS
- valtavasti
- ideologiat
- if
- kuva
- kuvien
- toteuttaa
- tärkeä
- in
- sisältää
- yhä useammin
- vaikutus
- tiedot
- aloite
- tapauksia
- sen sijaan
- ISN
- IT
- SEN
- jpg
- Merkki
- Sukunimi
- Viime vuonna
- Laki
- Lait
- pitää
- lobbaus
- tehty
- postitus
- monet
- asia
- me
- merkitys
- Sillä välin
- toimenpiteet
- jäsen
- Metadata
- menetelmät
- Michigan
- Microsoft
- ehkä
- minnesota
- harhaanjohtava
- malli
- mallit
- maanantai
- lisää
- enimmäkseen
- moninkertainen
- Nro
- marraskuu
- nyt
- of
- usein
- oh
- on
- vain
- avata
- OpenAI
- Operations
- or
- Muut
- Muuta
- meidän
- ulos
- erityinen
- osapuolet
- Hyväksytty
- Ihmiset
- täydellinen
- esittävä
- Personalities
- yksilöllinen
- valokuvia
- Paikka
- suunnittelu
- foorumi
- Platon
- Platonin tietotieto
- PlatonData
- paljon
- Valvoa
- politiikkaa
- politiikka
- poliittinen
- poliittiset ehdokkaat
- poliittisten puolueiden
- poliitikot
- teho
- presidentin-
- presidentinvaalit
- estää
- Prosessit
- tuottaa
- kielletty
- todistaa
- alkuperä
- riehua
- RE
- todellinen
- säännelty
- julkaistu
- merkityksellinen
- luottaen
- raportti
- vastuullisesti
- Rolling
- säännöt
- s
- turvallisesti
- Turvallisuus
- Said
- sanonta
- nähneet
- koska
- So
- Joku
- jotain
- erityinen
- alkoi
- käynnistyksen
- Valtiot
- Yhä
- verkkokaupasta
- strategiat
- tiukemmat
- Kuori
- niin
- Puku
- tuki
- Tukea
- synteettinen
- järjestelmä
- T
- puuttumalla
- otettava
- ottaen
- tehtävät
- teknologia
- tech-yrityksille
- Elektroniikka
- texas
- teksti
- kuin
- että
- -
- tiedot
- maailma
- heidän
- Niitä
- sitten
- Siellä.
- ne
- asiat
- tätä
- Tämä vuosi
- vaikka?
- että
- liian
- työkalut
- ylin
- läpinäkyvä
- ongelmia
- valtti
- yrittää
- ymmärtää
- valloilleen
- tuleva
- us
- käyttää
- Käyttäjät
- käyttämällä
- eri
- versio
- Videoita
- Äänestää
- äänestäjät
- Äänestys
- oli
- Washington
- vesileima
- vesileimaus
- vesileimat
- tavalla
- we
- sivustot
- HYVIN
- kun
- onko
- joka
- vaikka
- ketä
- laajalti
- with
- ilman
- Referenssit
- työskentely
- maailman-
- olisi
- vuosi
- vielä
- youtube
- zephyrnet