Analyse At tackle AI-desinformation er mere afgørende end nogensinde for teknologivirksomheder i år, da de forbereder sig på det kommende amerikanske præsidentvalg.
Bekæmpelse af falsk information og deepfakes er dog kun blevet sværere, da værktøjerne til at generere syntetisk indhold er mere tilgængelige end nogensinde før.
OpenAIs ChatGPT er blevet mere og mere egnet, siden den først blev udgivet i november 2022. Sidste år var den opgraderet dets GPT-4-system til at producere lyd og billeder oven på tekst. Nu har opstarten sluppet løs GPT butik, en platform, der hoster specialbyggede ChatGPT-baserede bots, der kan adoptere bestemte personligheder eller udføre specifikke opgaver.
"Vi arbejder stadig på at forstå, hvor effektive vores værktøjer kan være til personlig overtalelse"
I mandags sagde OpenAI, at det var forbudt at bygge GPT'er til politisk kampagne og lobbyvirksomhed, og at bruge dets modeller til at drive enhver chatbot, der efterligner rigtige mennesker, virksomheder eller regeringer, er et misbrug af dets teknologi. Alle applikationer, der blander sig i demokratiske processer, såsom afstemning, for eksempel, er også forbudt.
"Vi forventer og sigter efter, at folk bruger vores værktøjer sikkert og ansvarligt, og valg er ikke anderledes," den sagde. "Vi arbejder på at forudse og forhindre relevant misbrug - såsom vildledende 'deepfakes', skalerede indflydelsesoperationer eller chatbots, der efterligner kandidater."
Det er godt at præcisere reglerne, men at håndhæve dem er en anden sag. Det er svært at overvåge GPT Store, og OpenAI er afhængig af, at brugerne rapporterer applikationer, der går imod dens politikker. Folk har allerede brudt dens regler omkring ikke at skabe GPT'er "dedikeret til at fremme romantisk kammeratskab eller udføre regulerede aktiviteter." Platformen har masser af AI "kærester", og der er også mange politiske chatbots.
Nogle er udformet til at efterligne politikere som Donald Trump, for eksempel, selvom de ikke er overbevisende efterligninger, mens andre støtter visse politiske ideologier. I en samtale med "The Real Trump Bot" sagde den for eksempel, at det var imod brevafstemning. "Åh, lad mig ikke engang komme i gang med brevafstemning. Det er som om de beder om ballade. Det er så åbent for misbrug, det er utroligt."
Går det imod OpenAIs politikker? Kan det afholde nogen fra at sende deres stemme? "Vi arbejder stadig på at forstå, hvor effektive vores værktøjer kan være til personlig overtalelse," indrømmede OpenAI.
OpenAI har også taget andre forholdsregler. Sikkerhedsrækværk på plads til dens tekst-til-billede model DALL-E forhindrer brugere i at generere billeder af politikere for at forsøge at forhindre deepfakes. Men autoværnet tillader redigering af billeder, hvilket betyder, at folk stadig kan manipulere fotografier af kandidater uden hjælp fra en AI.
Ud over at forbyde eller blokere indhold omfatter de andre strategier, virksomheder tager for at bekæmpe desinformation, udrulning af digitale vandmærker og krav om, at brugere skal være gennemsigtige om AI-genererede billeder eller videoer.
Microsoft er medlem af Coalition for Content Provenance and Authenticity (C2PA) og støtter initiativet Content Credentials. Det udruller en funktion, der integrerer et vandmærke for indhold genereret af Bing Image Creator, der indeholder metadata, der beskriver, hvordan billedet blev lavet, hvornår og af hvem, som kan inspiceres for at bevise dets uægthed. OpenAI planlægger at følge trop og implementere CP2Aogså digitale legitimationsoplysninger. Men funktionen til vandmærkning og metadata er ikke idiotsikker. Oplysningerne om et billedes herkomst kan dog kun ses i applikationer eller websteder, der understøtter formatet Content Credentials.
Brugere kan fjerne oplysningerne fra et billede genereret af Microsoft eller OpenAIs værktøjer og åbne det i noget som Google Chrome, for eksempel, som ikke understøtter CP2A. Der ville da ikke være nogen metadata knyttet til deres billeder, og de ville frit kunne distribuere den version i stedet.
Googles YouTube-platform har taget en anden tilgang og kræver i stedet, at skabere afslører, om deres videoer indeholder AI-genererede optagelser, skildrer falske begivenheder, eller de indeholder folk, der siger ting, de ikke har sagt. I mellemtiden Meta , Google har bedt annoncører om at erklære, om deres annoncer indeholder syntetisk indhold, uanset om det er falske billeder, videoer eller lyd.
Reglerne er strengere for politikerne. Flere stater, som Californien, Texas, Michigan, Washington og Minnesota er bestået lovkrav at forbyde politiske kandidater at spinde deepfakes op for at påvirke vælgerne. Der er dog ikke en føderal lov. Den føderale valgkommission har endnu ikke besluttet, om dens politik mod "svigagtigt misrepræsentation af andre kandidater eller politiske partier" gælder for AI-genereret indhold.
AI er stadig for det meste ureguleret, og de forskellige love, der gælder rundt om i verden, dækker ikke alle tilfælde af politisk desinformation. Selvom teknologivirksomheder øger indsatsen for at forhindre brugere i at generere AI-desinformation, er deres metoder ikke perfekte, og brugerne finder ofte måder at omgå deres sikkerhedsforanstaltninger. ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :har
- :er
- :ikke
- $OP
- 2022
- a
- Om
- misbrug
- tilgængelig
- aktiviteter
- indrømmede
- vedtage
- annoncer
- annoncører
- mod
- AI
- sigte
- Alle
- tillade
- allerede
- også
- Skønt
- an
- ,
- En anden
- foregribe
- enhver
- anvendelig
- applikationer
- gælder
- tilgang
- ER
- omkring
- AS
- spørge
- forbundet
- lyd
- ægthed
- bandlyst
- BE
- bliver
- før
- Bing
- blokering
- Bot
- bots
- Broken
- Bygning
- virksomheder
- men
- by
- california
- valgkamp
- CAN
- kandidater
- stand
- bære
- vis
- chatbots
- ChatGPT
- Chrome
- CO
- koalition
- bekæmpe
- Kommissionen
- Virksomheder
- indeholder
- indhold
- Samtale
- kunne
- dæksel
- udformet
- Oprettelse af
- skaberen
- skabere
- Legitimationsoplysninger
- afgørende
- Specialbyggede
- dalls
- beslutte
- dedikeret
- deepfakes
- demokratisk
- beskriver
- forskellige
- svært
- digital
- offentliggøre
- misinformation
- afskrække
- distribuere
- do
- gør ikke
- Don
- donald
- Donald Trump
- redigering
- Effektiv
- indsats
- Valg
- Valg
- håndhæve
- Ether (ETH)
- Endog
- begivenheder
- NOGENSINDE
- eksempel
- forvente
- falsk
- falsk
- Feature
- Federal
- føderal lov
- Finde
- Fornavn
- følger
- Til
- format
- fremme
- Gratis
- fra
- genereret
- generere
- få
- given
- Go
- godt
- Google Chrome
- regeringer
- voksen
- Have
- tilflugtssted
- hjælpe
- Hosting
- Hvordan
- Men
- HTTPS
- Enormt
- ideologier
- if
- billede
- billeder
- gennemføre
- vigtigt
- in
- omfatter
- stigende
- indflydelse
- oplysninger
- initiativ
- forekomster
- i stedet
- isn
- IT
- ITS
- jpg
- etiket
- Efternavn
- Sidste år
- Lov
- Love
- ligesom
- lobbyvirksomhed
- lavet
- mailing
- mange
- Matter
- me
- betyder
- I mellemtiden
- foranstaltninger
- medlem
- Metadata
- metoder
- Michigan
- microsoft
- måske
- minnesota
- misvisende
- model
- modeller
- Mandag
- mere
- for det meste
- flere
- ingen
- november
- nu
- of
- tit
- oh
- on
- kun
- åbent
- OpenAI
- Produktion
- or
- Andet
- Andre
- vores
- ud
- særlig
- parter
- Bestået
- Mennesker
- perfekt
- udfører
- Personligheder
- Personlig
- fotografier
- Place
- planlægning
- perron
- plato
- Platon Data Intelligence
- PlatoData
- Masser
- Police
- politikker
- politik
- politisk
- politiske kandidater
- politiske partier
- Politikere
- magt
- præsidentkandidat
- præsidentvalg
- forhindre
- Processer
- producere
- forbudt
- Bevise
- herkomst
- rampe
- RE
- ægte
- reguleret
- frigivet
- relevant
- stole
- indberette
- ansvarligt
- Rullende
- regler
- s
- sikkert
- Sikkerhed
- Said
- siger
- set
- siden
- So
- Nogen
- noget
- specifikke
- påbegyndt
- opstart
- Stater
- Stadig
- butik
- strategier
- strengere
- Strip
- sådan
- Dragt
- support
- Støtte
- syntetisk
- systemet
- T
- tackle
- taget
- tager
- opgaver
- tech
- tech virksomheder
- Teknologier
- Texas
- tekst
- end
- at
- oplysninger
- verdenen
- deres
- Them
- derefter
- Der.
- de
- ting
- denne
- i år
- selvom?
- til
- også
- værktøjer
- top
- gennemsigtig
- problemer
- trumf
- prøv
- forstå
- unleashed
- kommende
- us
- brug
- brugere
- ved brug af
- forskellige
- udgave
- Videoer
- Stem
- vælgere
- Afstemningen
- var
- washington
- vandmærke
- vandmærkning
- vand varemærker
- måder
- we
- websites
- GODT
- hvornår
- hvorvidt
- som
- mens
- hvem
- bredt
- med
- uden
- Arbejde
- arbejder
- world
- ville
- år
- endnu
- youtube
- zephyrnet