OpenAI-medgründer Sam Altman bekrefter "ChatGPT har mangler rundt skjevhet"

OpenAI-medgründer Sam Altman bekrefter "ChatGPT har mangler rundt skjevhet"

Tidsstempel: 2. februar 2023 11:26
Kilde node: 1935966

"Vi vet at ChatGPT har mangler rundt skjevhet, og jobber med å forbedre det."

I går skrev vi om OpenAI etter at noen brukere av ChatGPT rapporterte at organisasjonen som ble grunnlagt av Elon Musk og Sam Altman har gjorde chatboten til et politisk verktøy og bruker det nå for å fremme transkjønn. "Skaden på troverdigheten til AI av ChatGPT-ingeniører som bygger i politisk skjevhet er uopprettelig," en ChatGPT klaget. "AI sier å bekrefte transkjønnede barn," sa en annen ChatGP-bruker.

Bare noen timer etter en historie tok OpenAI-medgründer Sam Altman til sosiale medier for å ta opp problemene sammen med hatet rettet mot OpenAI-ingeniørene. I et innlegg på Twitter-tråden innrømmet Altman at ChatGPT for tiden har noen feil rundt skjevhet, noe som ikke er uvanlig for hver ny teknologi. Altman la til at selskapet jobber med å forbedre chatboten. Men han tok ikke godt imot angrepene på OpenAI-ingeniører og kalte det forferdelig.

"Vi vet at ChatGPT har mangler rundt skjevhet, og jobber med å forbedre det. men å rette hat mot individuelle OAI-ansatte på grunn av dette er forferdelig. slå meg alt du vil, men å angripe andre mennesker her hjelper ikke feltet å avansere, og de som gjør det vet det.»

Altman la også til at OpenAI «arbeider for å forbedre standardinnstillingene til å bli mer nøytrale, og også for å gi brukerne mulighet til å få systemene våre til å oppføre seg i samsvar med deres individuelle preferanser innenfor vide rammer. dette er vanskeligere enn det høres ut, og det vil ta litt tid før vi får det til.»

OpenAI er ikke det første teknologiselskapet som står overfor AI-biasproblemet. Tilbake i 2021, to Google-ingeniører trakk seg over sparkingen av en Black AI-etikkforsker Timnit Gebru, en eritreisk-født dataforsker som jobber med algoritmisk skjevhet og datautvinning.

I 2020 skrev Timnit Gebru en artikkel der hun sa at Google og andre store teknologiselskaper er "institusjonelt rasistisk.” Papiret hennes fokuserte på lignende problemer som plager ChatGPT om hvordan AI-språkmodeller har en strukturell skjevhet mot kvinner og personer som tilhører etniske minoriteter.

Vi dekket OpenAI første gang for omtrent tre år siden etter Microsoft investerte 1 milliard dollar i organisasjonen. Som en del av den flerårige avtalen som er oppnådd, vil de to selskapene samarbeide for å bringe superdatabehandlingsteknologier og OpenAI vil kjøre tjenestene sine utelukkende i Microsofts sky.

Gjennom partnerskapet vil de to selskapene akselerere gjennombrudd innen AI og styrke OpenAIs innsats for å skape kunstig generell intelligens (AGI). De resulterende forbedringene av Azure-plattformen vil også hjelpe utviklere med å bygge neste generasjon AI-applikasjoner. Med partnerskapet vil Microsoft og OpenAI i fellesskap bygge nye Azure AI-superdatabehandlingsteknologier.

På spørsmål nylig om ChatGPT og om Microsoft så på ChatGPT-teknologi som eksperimentell eller strategisk, sa presidenten Brad Smith til Reuters at AI har utviklet seg raskere enn mange forutså.

"Vi kommer til å se fremskritt i 2023 som folk for to år siden ville ha forventet i 2033. Det kommer til å være ekstremt viktig ikke bare for Microsofts fremtid, men for alles fremtid," sa han i et intervju denne uken.

OpenAI ble grunnlagt i slutten av 2015 av Elon Musk og Sam Altman som en for-profit startup som driver forskning innen kunstig intelligens (AI) med mål om å fremme og utvikle vennlig AI på en slik måte at det kommer menneskeheten som helhet til gode. OpenIA sa at det har som mål å "fritt samarbeide" med andre institusjoner og forskere ved å gjøre patentene og forskningen åpen for publikum. Begge grunnleggerne er delvis motivert av bekymringer om eksistensiell risiko fra kunstig generell intelligens.

Samlet sett mener vi at Altman håndterte kritikken om ChatGPT-skjevheten veldig bra. Det faktum at han innrømmet ChatGPT-algoritmen er et skritt i riktig retning.

Tidstempel:

Mer fra TechStartups