OpenAI-medstifter Sam Altman bekræfter 'ChatGPT har mangler omkring bias'

OpenAI-medstifter Sam Altman bekræfter 'ChatGPT har mangler omkring bias'

Tidsstempel: 2. februar 2023 kl. 11:26
Kildeknude: 1935966

"Vi ved, at ChatGPT har mangler omkring bias, og vi arbejder på at forbedre det."

I går skrev vi om OpenAI, efter at nogle brugere af ChatGPT rapporterede, at organisationen, der blev grundlagt af Elon Musk og Sam Altman, har gjorde chatbotten til et politisk værktøj og bruger det nu til at fremme transkønnethed. "Skaden på troværdigheden af ​​AI af ChatGPT-ingeniører, der bygger i politisk skævhed, er uoprettelig," en ChatGPT klagede. "AI siger, at man skal bekræfte transkønnede børn," sagde en anden ChatGP-bruger.

Blot et par timer efter en historie tog OpenAI-medstifter Sam Altman til sociale medier for at adressere problemerne sammen med det had rettet mod OpenAI-ingeniørerne. I et Twitter-trådindlæg indrømmede Altman, at ChatGPT i øjeblikket har nogle fejl omkring bias, hvilket ikke er ualmindeligt for enhver ny teknologi. Altman tilføjede, at virksomheden arbejder på at forbedre chatbotten. Men han tog ikke venligt imod angrebene på OpenAI-ingeniører og kaldte det rystende.

"Vi ved, at ChatGPT har mangler omkring bias, og arbejder på at forbedre det. men at rette had mod individuelle OAI-medarbejdere på grund af dette er rystende. slå mig alt, hvad du vil, men at angribe andre mennesker her hjælper ikke banen videre, og de mennesker, der gør det, ved det."

Altman tilføjede også, at OpenAI "arbejder på at forbedre standardindstillingerne til at være mere neutrale, og også for at give brugerne mulighed for at få vores systemer til at opføre sig i overensstemmelse med deres individuelle præferencer inden for brede grænser. det her er sværere, end det lyder, og det vil tage os noget tid at finde ret."

OpenAI er ikke den første teknologivirksomhed, der står over for AI-bias-problemet. Tilbage i 2021, to Google-ingeniører sagde op over fyringen af ​​en Black AI-etikforsker Timnit Gebru, en eritreisk-født computerforsker, der arbejder med algoritmisk bias og data mining.

I 2020 skrev Timnit Gebru et papir, hvor hun sagde, at Google og andre store teknologivirksomheder er "institutionelt racistisk.Hendes papir fokuserede på lignende problemer, der plager ChatGPT om, hvordan AI-sprogmodeller har en strukturel skævhed mod kvinder og mennesker, der tilhører etniske minoriteter.

Vi dækkede først OpenAI for omkring tre år siden efter Microsoft investerede 1 mia i organisationen. Som en del af den indgåede flerårige aftale, vil de to virksomheder arbejde sammen om at bringe supercomputing-teknologier, og OpenAI vil køre deres tjenester udelukkende i Microsofts sky.

Gennem partnerskabet vil de to virksomheder fremskynde gennembrud inden for kunstig intelligens og styrke OpenAIs bestræbelser på at skabe kunstig generel intelligens (AGI). De resulterende forbedringer af Azure-platformen vil også hjælpe udviklere med at bygge den næste generation af AI-applikationer. Med partnerskabet vil Microsoft og OpenAI i fællesskab bygge nye Azure AI supercomputing-teknologier.

Da han for nylig blev spurgt om ChatGPT, og om Microsoft betragtede ChatGPT-teknologien som eksperimentel eller strategisk, fortalte dens præsident Brad Smith til Reuters, at AI har udviklet sig hurtigere end mange forudsagde.

"Vi kommer til at se fremskridt i 2023, som folk for to år siden ville have forventet i 2033. Det bliver ekstremt vigtigt ikke kun for Microsofts fremtid, men for alles fremtid," sagde han i et interview i denne uge.

OpenAI blev grundlagt i slutningen af ​​2015 af Elon Musk og Sam Altman som en for-profit startup, der udfører forskning i kunstig intelligens (AI) med det formål at fremme og udvikle venlig AI på en sådan måde, at det gavner menneskeheden som helhed. OpenIA sagde, at det sigter mod at "frit samarbejde" med andre institutioner og forskere ved at gøre dets patenter og forskning åbent for offentligheden. Begge grundlæggere er delvist motiveret af bekymringer om eksistentiel risiko fra kunstig generel intelligens.

Samlet set mener vi, at Altman håndterede kritikken om ChatGPT-bias meget godt. Det faktum, at han indrømmede ChatGPT-algoritmens bias, er et skridt i den rigtige retning.

Tidsstempel:

Mere fra TechStartups