OpenAI utesluter användning i val och röstundertryckning

OpenAI utesluter användning i val och röstundertryckning

Tidsstämpel: 20 januari 2024 7:30
Källnod: 3073710

I ett avgörande steg för att bekämpa desinformation i val har OpenAI deklarerat en rigorös hållning mot att använda dess generativa AI-verktyg i valkampanjer och väljarundertryckande taktik.

Detta tillkännagivande kommer som ett viktigt steg mot att säkerställa integriteten för ett flertal nyckelval som är planerade till 2024.

Läs också: OpenAI förhandlar nyhetsinnehållslicenser med CNN, Fox och Time

Bekämpa missbruk med innovation och politik

OpenAI har initierat en strategi för att skydda sin teknologi från att utnyttjas för att manipulera valresultat. Företaget har etablerat ett specialiserat team som fokuserar på valrelaterade frågor, som slår samman expertis från olika avdelningar, inklusive juridik, teknik och policy. Detta teams primära mål är att identifiera och mildra det potentiella missbruket av AI i val.

"Vi har en tvärfunktionell insats dedikerad till valarbete, som samlar expertis från våra säkerhetssystem, hotintelligens, juridiska, ingenjörs- och policyteam."

Hotet om desinformation i politiken är inte nytt, men tillkomsten av AI-teknik innebär aldrig tidigare skådade utmaningar. OpenAI inser detta och vidtar proaktiva åtgärder. Företaget planerar att använda en blandning av tekniker som röd teaming, användarengagemang och skyddsräcken. Närmare bestämt deras bild generationsverktyg, DALL-E, har uppdaterats för att förhindra skapandet av bilder som föreställer verkliga människor, inklusive politiska kandidater.

"DALL·E har skyddsräcken för att avslå förfrågningar som ber om bildgenerering av riktiga människor, inklusive kandidater."

OpenAI reviderar kontinuerligt sina användarpolicyer för att hålla jämna steg med AI-teknikens framväxande landskap och dess potentiella missbruk. Dess uppdaterade säkerhetspolicyer begränsar nu uttryckligen utvecklingen av AI-applikationer för politisk kampanj och lobbyverksamhet. Dessutom har åtgärder vidtagits för att förhindra skapandet av chatbotar som efterliknar verkliga människor eller organisationer.

Öka transparens och ansvarsskyldighet

En nyckelkomponent i OpenAI:s strategi är introduktionen av en härkomstklassificerare för dess DALL-E-verktyg. Den här funktionen, som för närvarande betatestas, kan upptäcka bilder genererade av DALL-E. Företaget strävar efter att göra detta verktyg tillgängligt för journalister, plattformar och forskare för att öka transparensen i AI-genererat innehåll.

"Vi planerar att snart göra det tillgängligt för vår första grupp testare - inklusive journalister, plattformar och forskare - för feedback."

OpenAI integrerar också nyhetsrapportering i realtid ChatGPT. Denna integration syftar till att ge användarna korrekt och aktuell information, vilket ökar transparensen kring informationskällorna som tillhandahålls av AI.

I en gemensam ansträngning med National Association of State Secretaries i USA fokuserar OpenAI på att förhindra att dess teknik avskräcker valdeltagande. Lagarbetet innebär att dirigera GPT-drivna chatbotanvändare till pålitliga webbplatser för röstinformation som CanIVote.org.

Rivalerna följer efter i AI-loppet

OpenAIs tillkännagivande har skapat ett prejudikat i AI-branschen, med rivaler som Google LLC och Meta Platforms Inc. implementerar också åtgärder för att bekämpa desinformation som sprids genom deras teknologier. Denna kollektiva ansträngning från branschledare innebär en växande medvetenhet och ansvar för AIs potentiella inverkan på demokratiska processer.

Men räcker detta? Charles King från Pund-IT Inc. tar upp en kritisk punkt och ifrågasätter om dessa åtgärder är aktuella eller reaktiva. Han hävdar att oro för AI-genererad desinformation har funnits i åratal, och OpenAIs senaste tillkännagivande kan ses som för lite, för sent. Detta perspektiv framkallar en djupare reflektion över AI-utvecklarnas roll och ansvar i det politiska landskapet.

"Så i bästa fall antyder detta tillkännagivande att OpenAI sov vid växeln. Men i värsta fall liknar det en handtvättsritual som OpenAI kan peka på när generativ AI träffar fansen under kommande globala val i år.”

Tidsstämpel:

Mer från MetaNews