OpenAI medgrundare Sam Altman bekräftar "ChatGPT har brister kring partiskhet"

OpenAI medgrundare Sam Altman bekräftar "ChatGPT har brister kring partiskhet"

Tidsstämpel: 2 februari 2023 11:26
Källnod: 1935966

"Vi vet att ChatGPT har brister kring partiskhet och arbetar för att förbättra det."

Igår skrev vi om OpenAI efter att några användare av ChatGPT rapporterat att organisationen som grundades av Elon Musk och Sam Altman har förvandlade chatboten till ett politiskt verktyg och nu använder det för att främja transgenderism. "Skadan som gjorts på trovärdigheten för AI av ChatGPT-ingenjörer som bygger i politisk fördom är irreparabel," en ChatGPT klagade. "AI säger att man ska bekräfta transpersoner", sa en annan ChatGP-användare.

Bara några timmar efter en berättelse, gick OpenAI-grundaren Sam Altman till sociala medier för att ta upp problemen tillsammans med hatet riktat mot OpenAI-ingenjörerna. I ett inlägg på Twitter-tråden medgav Altman att ChatGPT för närvarande har några brister kring partiskhet, vilket inte är ovanligt för varje ny teknik. Altman tillade att företaget arbetar för att förbättra chatboten. Men han tog inte snällt emot attackerna på OpenAI-ingenjörer och kallade det skrämmande.

"Vi vet att ChatGPT har brister kring partiskhet och arbetar för att förbättra det. men att rikta hat mot enskilda OAI-anställda på grund av detta är skrämmande. slå mig allt du vill, men att attackera andra människor här hjälper inte fältet att avancera, och de som gör det vet det."

Altman tillade också att OpenAI "jobbar på att förbättra standardinställningarna så att de blir mer neutrala, och även för att ge användare möjlighet att få våra system att bete sig i enlighet med deras individuella preferenser inom vida gränser. det här är svårare än det låter och det kommer att ta lite tid för oss att komma rätt.

OpenAI är inte det första teknikföretaget som står inför problemet med AI-bias. Tillbaka 2021, två Google-ingenjörer sade upp sig över avskedandet av en Black AI-etikforskare Timnit Gebru, en eritreansk-född datavetare som arbetar med algoritmisk bias och datautvinning.

2020 skrev Timnit Gebru en artikel där hon sa att Google och andra stora teknikföretag är "institutionellt rasistisk.Hennes artikel fokuserade på liknande problem som plågar ChatGPT om hur AI-språkmodeller har en strukturell fördom mot kvinnor och människor som tillhör etniska minoriteter.

Vi täckte OpenAI först för ungefär tre år sedan efter Microsoft investerade 1 miljard dollar i organisationen. Som en del av det fleråriga avtalet som nåddes kommer de två företagen att arbeta tillsammans för att ta fram superdatorteknologier och OpenAI kommer att köra sina tjänster exklusivt i Microsofts moln.

Genom partnerskapet kommer de två företagen att påskynda genombrott inom AI och driva OpenAI:s ansträngningar att skapa artificiell allmän intelligens (AGI). De resulterande förbättringarna av Azure-plattformen kommer också att hjälpa utvecklare att bygga nästa generations AI-applikationer. Med partnerskapet kommer Microsoft och OpenAI gemensamt att bygga nya Azure AI superdatortekniker.

När man nyligen frågade om ChatGPT och om Microsoft såg ChatGPT-tekniken som experimentell eller strategisk, sa dess president Brad Smith till Reuters att AI har utvecklats snabbare än många förutspått.

"Vi kommer att se framsteg under 2023 som människor för två år sedan skulle ha förväntat sig 2033. Det kommer att bli extremt viktigt inte bara för Microsofts framtid, utan för allas framtid", sa han i en intervju denna vecka.

OpenAI grundades i slutet av 2015 av Elon Musk och Sam Altman som en vinstdrivande startup som bedriver forskning inom artificiell intelligens (AI) med målet att främja och utveckla vänlig AI på ett sådant sätt att det gynnar mänskligheten som helhet. OpenIA sa att det syftar till att "fritt samarbeta" med andra institutioner och forskare genom att göra sina patent och forskning öppna för allmänheten. Båda grundarna motiveras delvis av oro över existentiella risker från artificiell allmän intelligens.

Sammantaget tror vi att Altman hanterade kritiken om ChatGPT-bias väldigt bra. Det faktum att han erkände ChatGPT-algoritmens bias är ett steg i rätt riktning.

Tidsstämpel:

Mer från TechStartups