OpenAI utelukker bruk i valg og velgerundertrykkelse

OpenAI utelukker bruk i valg og velgerundertrykkelse

Tidsstempel: 20. januar 2024 7:30
Kilde node: 3073710

I et avgjørende grep for å bekjempe feilinformasjon i valg, har OpenAI erklært en streng holdning mot å bruke dets generative AI-verktøy i valgkamper og velgerundertrykkelsestaktikker.

Denne kunngjøringen kommer som et viktig skritt mot å sikre integriteten til en rekke viktige valg som er planlagt i 2024.

Les også: OpenAI forhandler lisensiering av nyhetsinnhold med CNN, Fox og Time

Bekjempe misbruk med innovasjon og politikk

OpenAI har satt i gang en strategi for å beskytte teknologien mot å bli utnyttet til å manipulere valgresultater. Selskapet har etablert et spesialisert team som fokuserer på valgrelaterte bekymringer, og smelter sammen ekspertisen fra ulike avdelinger, inkludert juss, engineering og policy. Dette teamets hovedmål er å identifisere og redusere potensielt misbruk av AI i valg.

"Vi har en tverrfunksjonell innsats dedikert til valgarbeid, og samler ekspertise fra sikkerhetssystemene våre, trusseletterretnings-, juridiske, ingeniør- og policyteam."

Trusselen om feilinformasjon i politikken er ikke ny, men fremkomsten av AI-teknologi byr på enestående utfordringer. OpenAI erkjenner dette og tar proaktive tiltak. Selskapet planlegger å bruke en blanding av teknikker som red teaming, brukerengasjement og sikkerhetsrekkverk. Nærmere bestemt bildet deres generasjonsverktøy, DALL-E, har blitt oppdatert for å forhindre at det lages bilder som viser ekte mennesker, inkludert politiske kandidater.

"DALL·E har rekkverk for å avslå forespørsler som ber om bildegenerering av ekte mennesker, inkludert kandidater."

OpenAI reviderer kontinuerlig sine brukerpolicyer for å holde tritt med det utviklende landskapet innen AI-teknologi og dens potensielle misbruk. Dens oppdaterte sikkerhetspolicyer begrenser nå eksplisitt utviklingen av AI-applikasjoner for politisk kampanje og lobbyvirksomhet. I tillegg har det blitt satt i verk tiltak for å forhindre opprettelsen av chatbots som etterligner virkelige mennesker eller organisasjoner.

Forbedre åpenhet og ansvarlighet

En nøkkelkomponent i OpenAIs strategi er introduksjonen av en herkomstklassifiserer for DALL-E-verktøyet. Denne funksjonen, som for øyeblikket er i beta-testing, kan oppdage bilder generert av DALL-E. Selskapet har som mål å gjøre dette verktøyet tilgjengelig for journalister, plattformer og forskere for å øke åpenheten i AI-generert innhold.

"Vi planlegger snart å gjøre det tilgjengelig for vår første gruppe testere – inkludert journalister, plattformer og forskere – for tilbakemelding."

OpenAI integrerer også sanntidsnyhetsrapportering i ChatGPT. Denne integrasjonen tar sikte på å gi brukerne nøyaktig og tidsriktig informasjon, og øker åpenheten rundt informasjonskildene levert av AI.

I en felles innsats med National Association of Secretaries of State i USA, er OpenAI fokusert på å forhindre at teknologien motvirker valgdeltakelse. Teamarbeidet innebærer å lede GPT-drevne chatbot-brukere til pålitelige nettsteder for stemmeinformasjon som CanIVote.org.

Rivaler følger etter i AI-løpet

OpenAIs kunngjøring har skapt en presedens i AI-bransjen, med rivaler som Google LLC og Meta Platforms Inc. implementerer også tiltak for å bekjempe feilinformasjon spredt gjennom deres teknologier. Denne kollektive innsatsen fra industriledere betyr en økende bevissthet og ansvar for den potensielle effekten av AI på demokratiske prosesser.

Men er dette nok? Charles King fra Pund-IT Inc. reiser et kritisk punkt, og stiller spørsmål ved om disse tiltakene er tidsriktige eller reaktive. Han argumenterer for at bekymringer om AI-generert feilinformasjon har eksistert i årevis, og OpenAIs nylige kunngjøring kan sees på som for lite, for sent. Dette perspektivet provoserer en dypere refleksjon over rollen og ansvaret til AI-utviklere i det politiske landskapet.

"Så i beste fall antyder denne kunngjøringen at OpenAI sov ved bryteren. Men i verste fall ligner det et håndvaskritual som OpenAI kan vise til når generativ AI treffer fansen under kommende globale valg i år.»

Tidstempel:

Mer fra MetaNews