Az OpenAI társalapítója, Sam Altman megerősítette, hogy „a ChatGPT-nek vannak hiányosságai az elfogultság körül”

Az OpenAI társalapítója, Sam Altman megerősítette, hogy „a ChatGPT-nek vannak hiányosságai az elfogultság körül”

Időbélyeg: 2. február 2023. 11:26
Forrás csomópont: 1935966

"Tudjuk, hogy a ChatGPT-nek vannak hiányosságai az elfogultság körül, és dolgozunk a javításán."

Tegnap írtunk az OpenAI-ról, miután a ChatGPT néhány felhasználója arról számolt be, hogy az Elon Musk és Sam Altman által közösen alapított szervezet politikai eszközzé változtatta a chatbotot és most a transzneműség előmozdítására használja. „A ChatGPT mérnökei által a politikai elfogultságra építkező mérnökök a mesterséges intelligencia hitelességében okozott kár helyrehozhatatlan” – mondta a ChatGPT egyik tagja. panaszkodott. „Az AI azt mondja, hogy erősítsük meg a transznemű gyermekeket” – mondta egy másik ChatGP-felhasználó.

Alig néhány órával egy történet után, az OpenAI társalapítója, Sam Altman a közösségi médiában foglalkozott a problémákkal és az OpenAI mérnökei iránti gyűlöletkel. Egy Twitter-bejegyzésben Altman elismerte, hogy a ChatGPT-nek jelenleg van néhány hibája az elfogultság körül, ami nem ritka minden új technológia esetében. Altman hozzátette, hogy a cég a chatbot fejlesztésén dolgozik. De nem nézte jó szemmel az OpenAI mérnökei elleni támadásokat, és elborzasztónak nevezte.

„Tudjuk, hogy a ChatGPT-nek vannak hiányosságai az elfogultság körül, és dolgozunk a javításán. de a gyűlöletet az egyes OAI alkalmazottakra irányítani emiatt borzasztó. üss meg, amit csak akarsz, de ha itt másokat támadsz, az nem segíti elő a mezőnyt, és ezt az emberek is tudják.”

Altman azt is hozzátette, hogy az OpenAI azon dolgozik, hogy az alapértelmezett beállításokat még semlegesebbé tegye, és lehetővé tegye a felhasználók számára, hogy rendszereinket tág határokon belül egyéni preferenciáiknak megfelelően viselkedjenek. ez nehezebb, mint amilyennek hangzik, és beletelik egy kis időbe, amíg helyreállunk.”

Az OpenAI nem az első technológiai vállalat, amely szembesül az AI torzítási problémájával. Még 2021-ben, két Google mérnök lemondott Timnit Gebru fekete mesterséges intelligencia-kutató, eritreai születésű informatikus kirúgása miatt, aki algoritmikus torzítással és adatbányászattal foglalkozik.

2020-ban Timnit Gebru írt egy tanulmányt, amelyben azt mondta, hogy a Google és más nagy technológiai cégek "intézményileg rasszista.Tanulmánya a ChatGPT-t sújtó hasonló problémákra összpontosított arról, hogy a mesterséges intelligencia nyelvi modelljei strukturálisan elfogulnak a nőkkel és az etnikai kisebbségekhez tartozó emberekkel szemben.

Körülbelül három évvel ezelőtt foglalkoztunk először az OpenAI-val A Microsoft 1 milliárd dollárt fektetett be a szervezetben. A megkötött többéves megállapodás részeként a két cég együtt dolgozik majd a szuperszámítógépes technológiák bevezetésén, az OpenAI pedig kizárólag a Microsoft felhőjében fogja futtatni szolgáltatásait.

A partnerség révén a két vállalat felgyorsítja az áttöréseket a mesterséges intelligencia terén, és erősíti az OpenAI-nak a mesterséges általános intelligencia (AGI) létrehozására irányuló erőfeszítéseit. Az Azure-platform ebből eredő fejlesztései a fejlesztőket is segítik az AI-alkalmazások következő generációjának elkészítésében. A partnerség révén a Microsoft és az OpenAI közösen új Azure AI szuperszámítógépes technológiákat épít ki.

Amikor a közelmúltban megkérdezték a ChatGPT-ről, és arról, hogy a Microsoft a ChatGPT technológiát kísérletinek vagy stratégiainak tekinti-e, Brad Smith elnöke azt mondta a Reutersnek, hogy a mesterséges intelligencia gyorsabban fejlődött, mint azt sokan előre jelezték.

„2023-ban olyan előrelépéseket fogunk látni, amelyekre két évvel ezelőtt az emberek 2033-ban számítottak. Ez rendkívül fontos lesz nemcsak a Microsoft, hanem mindenki jövője szempontjából is” – mondta egy e heti interjúban.

Az OpenAI-t 2015 végén alapította Elon Musk és Sam Altman profitorientált startupként, amely mesterséges intelligenciával (AI) kapcsolatos kutatásokat folytat azzal a céllal, hogy népszerűsítse és fejlessze a barátságos mesterséges intelligenciát oly módon, hogy az az egész emberiség javát szolgálja. Az OpenIA azt mondta, hogy szabadalmait és kutatásait nyilvánossá teszi, hogy „szabadon együttműködjön” más intézményekkel és kutatókkal. Mindkét alapítót részben a mesterséges általános intelligencia okozta egzisztenciális kockázattal kapcsolatos aggodalmak motiválják.

Összességében úgy gondoljuk, hogy Altman nagyon jól kezelte a ChatGPT torzításával kapcsolatos kritikát. Az a tény, hogy elismerte a ChatGPT algoritmus elfogultságát, egy lépés a helyes irányba.

Időbélyeg:

Még több TechStartups