OpenAI sulkee pois käytön vaaleissa ja äänestäjien tukahduttamisessa

OpenAI sulkee pois käytön vaaleissa ja äänestäjien tukahduttamisessa

Aikaleima: 20. tammikuuta 2024 7
Lähdesolmu: 3073710

Päättäväisenä toimenpiteenä väärän tiedon torjumiseksi vaaleissa OpenAI on julistanut a tiukka asenne vastustaa sen luovien tekoälytyökalujen käyttöä vaalikampanjoissa ja äänestäjien tukahduttamistaktiikoissa.

Tämä ilmoitus on olennainen askel kohti lukuisten vuodelle 2024 suunniteltujen keskeisten vaalien eheyden varmistamista.

Lue myös: OpenAI neuvottelee uutissisällön lisensoinnista CNN:n, Foxin ja Timen kanssa

Väärinkäytön torjunta innovaation ja politiikan avulla

OpenAI on käynnistänyt strategian suojatakseen sen teknologiaa siltä, ​​ettei sitä käytetä hyväksi vaalitulosten manipulointiin. Yhtiö on perustanut erikoistuneen tiimin, joka keskittyy vaaleihin liittyviin huolenaiheisiin yhdistämällä eri osastojen asiantuntemusta, mukaan lukien laki-, suunnittelu- ja politiikka. Tämän tiimin ensisijaisena tavoitteena on tunnistaa ja lieventää tekoälyn mahdollista väärinkäyttöä vaaleissa.

"Meillä on monialainen ponnistus, joka on omistautunut vaalityöhön, yhdistäen asiantuntemusta turvallisuusjärjestelmistämme, uhkatiedoistamme, laki-, suunnittelu- ja politiikkatiimeistämme."

Väärininformaation uhka politiikassa ei ole uusi asia, mutta tekoälyteknologian tulo tuo mukanaan ennennäkemättömiä haasteita. Tämän tiedostaen OpenAI ryhtyy ennakoiviin toimiin. Yritys aikoo käyttää yhdistelmää tekniikoita, kuten red teaming, käyttäjien sitoutuminen ja turvakaiteet. Nimenomaan heidän kuvansa sukupolven työkalu, DALL-E, on päivitetty, jotta estetään oikeita ihmisiä, mukaan lukien poliittisia ehdokkaita, esittävien kuvien luominen.

"DALL·E:llä on suojakaiteet hylätä pyynnöt, joissa pyydetään luomaan todellisia ihmisiä, mukaan lukien ehdokkaita."

OpenAI tarkistaa jatkuvasti käyttäjäkäytäntöjään pysyäkseen tekoälyteknologian kehittyvän maiseman ja sen mahdollisen väärinkäytön tahdissa. Sen päivitetyt turvallisuuskäytännöt rajoittavat nyt selvästi tekoälysovellusten kehittämistä poliittiseen kampanjointiin ja lobbaukseen. Lisäksi on otettu käyttöön toimenpiteitä, joilla estetään oikeita ihmisiä tai organisaatioita jäljittelevien chatbottien luominen.

Avoimuuden ja vastuullisuuden lisääminen

OpenAI:n strategian keskeinen osa on DALL-E-työkalun alkuperäluokituksen käyttöönotto. Tämä tällä hetkellä betatestauksessa oleva ominaisuus voi havaita DALL-E:n luomat kuvat. Yritys pyrkii tuomaan tämän työkalun toimittajien, alustojen ja tutkijoiden saataville parantaakseen tekoälyn luoman sisällön läpinäkyvyyttä.

"Aiomme pian antaa sen ensimmäisen testaajaryhmän - mukaan lukien toimittajille, alustoille ja tutkijoille - saataville palautetta varten."

OpenAI integroi myös reaaliaikaisen uutisraportoinnin ChatGPT. Tämän integraation tavoitteena on tarjota käyttäjille täsmällistä ja oikea-aikaista tietoa, mikä lisää tekoälyn tarjoamien tietolähteiden läpinäkyvyyttä.

Yhteistyössä Yhdysvaltain National Association of State Secretaries -järjestön kanssa OpenAI keskittyy estämään sen teknologiaa lannistamasta vaaleihin osallistumista. Ryhmätyö sisältää GPT-käyttöisten chatbot-käyttäjien ohjaamisen luotettaville äänestystietosivustoille, kuten CanIVote.org.

Kilpailijat seuraavat perässä tekoälykilpailussa

OpenAI:n ilmoitus on luonut ennakkotapauksen tekoälyteollisuudessa kilpailijoiden, kuten Google LLC ja Meta Platforms Inc. toteuttavat myös toimenpiteitä teknologioidensa kautta leviävän väärän tiedon torjumiseksi. Tämä alan johtajien yhteinen ponnistus merkitsee kasvavaa tietoisuutta ja vastuuta tekoälyn mahdollisista vaikutuksista demokraattisiin prosesseihin.

Mutta riittääkö tämä? Charles King, Pund-IT Inc., nostaa esiin kriittisen kohdan ja kyseenalaistaa, ovatko nämä toimenpiteet oikea-aikaisia ​​vai reagoivia. Hän väittää, että huoli tekoälyn tuottamasta väärästä tiedosta on ollut olemassa vuosia, ja OpenAI:n äskettäistä ilmoitusta voidaan pitää liian vähäisenä, liian myöhäisenä. Tämä näkökulma herättää syvemmän pohdiskelun tekoälykehittäjien roolista ja vastuusta poliittisessa maisemassa.

"Joten parhaimmillaan tämä ilmoitus viittaa siihen, että OpenAI nukkui kytkimessä. Mutta pahimmillaan se muistuttaa käsienpesurituaalia, johon OpenAI voi viitata, kun generatiivinen tekoäly osuu tuulettimeen tämän vuoden tulevissa maailmanlaajuisissa vaaleissa.

Aikaleima:

Lisää aiheesta MetaNews