Soustanovitelj OpenAI Sam Altman potrjuje, da ima "ChatGPT pomanjkljivosti glede pristranskosti"

Soustanovitelj OpenAI Sam Altman potrjuje, da ima "ChatGPT pomanjkljivosti glede pristranskosti"

Časovni žig: 2. februar 2023 11
Izvorno vozlišče: 1935966

"Vemo, da ima ChatGPT pomanjkljivosti v zvezi s pristranskostjo, in si prizadevamo za izboljšanje."

Včeraj smo pisali o OpenAI, potem ko so nekateri uporabniki ChatGPT poročali, da je organizacija, ki sta jo soustanovila Elon Musk in Sam Altman, spremenil chatbota v politično orodje in jo zdaj uporablja za promocijo transspolnosti. "Škoda, ki so jo inženirji ChatGPT naredili verodostojnosti umetne inteligence s politično pristranskostjo, je nepopravljiva," je eden od ChatGPT pritožil. "AI pravi, da potrdimo transspolne otroke," je dejal drug uporabnik ChatGP.

Le nekaj ur po zgodbi se je soustanovitelj OpenAI Sam Altman oglasil na družbenih omrežjih in obravnaval težave skupaj s sovraštvom, usmerjenim proti inženirjem OpenAI. V objavi v niti na Twitterju je Altman priznal, da ima ChatGPT trenutno nekaj pomanjkljivosti glede pristranskosti, kar ni neobičajno za vsako novo tehnologijo. Altman je dodal, da si podjetje prizadeva izboljšati chatbot. Vendar napadov na inženirje OpenAI ni sprejel dobro, saj jih je označil za grozljive.

»Vemo, da ima ChatGPT pomanjkljivosti glede pristranskosti, in delamo na tem, da bi to izboljšali. toda usmerjanje sovraštva na posamezne zaposlene OAI zaradi tega je grozljivo. udari me, kolikor hočeš, toda napad na druge ljudi tukaj ne pomaga napredovati in ljudje, ki to počnejo, to vedo.«

Altman je še dodal, da si OpenAI »prizadeva za izboljšanje privzetih nastavitev, da bodo bolj nevtralne, in tudi za opolnomočenje uporabnikov, da se naši sistemi obnašajo v skladu z njihovimi individualnimi preferencami v širokih mejah. to je težje, kot se sliši, in potrebovali bomo nekaj časa, da se bomo popravili.«

OpenAI ni prvo tehnološko podjetje, ki se sooča s problemom pristranskosti AI. Leta 2021, dva Googlova inženirja sta odstopila zaradi odpustitve temnopoltega raziskovalca etike umetne inteligence Timnita Gebruja, v Eritreji rojenega računalničarja, ki se ukvarja z algoritemsko pristranskostjo in podatkovnim rudarjenjem.

Leta 2020 je Timnit Gebru napisala članek, v katerem je dejala, da so Google in druga velika tehnološka podjetja "institucionalno rasističen.” Njen prispevek se je osredotočal na podobna vprašanja, ki pestijo ChatGPT o tem, kako imajo jezikovni modeli umetne inteligence strukturno pristranskost do žensk in ljudi, ki pripadajo etničnim manjšinam.

OpenAI smo prvič obravnavali pred približno tremi leti Microsoft je vložil milijardo dolarjev v organizaciji. Kot del doseženega večletnega dogovora bosta podjetji sodelovali pri uvajanju superračunalniških tehnologij, OpenAI pa bo izvajal svoje storitve izključno v Microsoftovem oblaku.

S partnerstvom bosta podjetji pospešili preboje na področju umetne inteligence in okrepili prizadevanja OpenAI za ustvarjanje umetne splošne inteligence (AGI). Posledične izboljšave platforme Azure bodo tudi pomagale razvijalcem zgraditi naslednjo generacijo aplikacij AI. S partnerstvom bosta Microsoft in OpenAI skupaj zgradila nove superračunalniške tehnologije Azure AI.

Na nedavno vprašanje o ChatGPT in ali Microsoft gleda na tehnologijo ChatGPT kot na eksperimentalno ali strateško, je njegov predsednik Brad Smith za Reuters povedal, da je umetna inteligenca napredovala hitreje, kot so mnogi napovedovali.

"Leta 2023 bomo videli napredek, ki bi ga ljudje pred dvema letoma pričakovali leta 2033. To bo izjemno pomembno ne samo za Microsoftovo prihodnost, ampak za prihodnost vseh," je dejal v intervjuju ta teden.

OpenAI sta konec leta 2015 ustanovila Elon Musk in Sam Altman kot profitno zagonsko podjetje, ki izvaja raziskave na področju umetne inteligence (AI) s ciljem spodbujanja in razvoja prijazne umetne inteligence na način, ki bo koristil človeštvu kot celoti. OpenIA je dejala, da želi "prosto sodelovati" z drugimi institucijami in raziskovalci tako, da svoje patente in raziskave odpre javnosti. Oba ustanovitelja deloma motivira zaskrbljenost glede eksistencialnega tveganja zaradi umetne splošne inteligence.

Na splošno verjamemo, da je Altman zelo dobro sprejel kritiko glede pristranskosti ChatGPT. Dejstvo, da je priznal pristranskost algoritma ChatGPT, je korak v pravo smer.

Časovni žig:

Več od TechStartupi