Sam Altman, mede-oprichter van OpenAI, bevestigt dat 'ChatGPT tekortkomingen heeft op het gebied van vooringenomenheid'

Sam Altman, mede-oprichter van OpenAI, bevestigt dat 'ChatGPT tekortkomingen heeft op het gebied van vooringenomenheid'

Tijdstempel: 2 februari 2023 11:26 uur
Bronknooppunt: 1935966

"We weten dat ChatGPT tekortkomingen heeft op het gebied van vooringenomenheid en werken eraan om dit te verbeteren."

Gisteren schreven we over OpenAI nadat enkele gebruikers van ChatGPT meldden dat de organisatie, mede opgericht door Elon Musk en Sam Altman, maakte van de chatbot een politiek instrument en nu gebruiken om transgenderisme te promoten. "De schade aan de geloofwaardigheid van AI door ChatGPT-ingenieurs die politieke vooringenomenheid inbouwen, is onherstelbaar", zegt een ChatGPT geklaagd. "AI zegt transgenderkinderen te bevestigen", zei een andere ChatGP-gebruiker.

Slechts een paar uur na een verhaal ging Sam Altman, mede-oprichter van OpenAI, naar sociale media om de problemen aan te pakken, samen met de haat tegen de OpenAI-ingenieurs. In een Twitter-threadpost gaf Altman toe dat ChatGPT momenteel enkele gebreken vertoont rond vooringenomenheid, wat niet ongebruikelijk is voor elke nieuwe technologie. Altman voegde eraan toe dat het bedrijf werkt aan het verbeteren van de chatbot. Maar hij nam de aanvallen op OpenAI-technici niet vriendelijk op en noemde het afschuwelijk.

“We weten dat ChatGPT tekortkomingen heeft op het gebied van vooringenomenheid en werken eraan om dit te verbeteren. maar het is afschuwelijk om hierdoor haat te richten op individuele OAI-medewerkers. sla me zoveel je wilt, maar andere mensen hier aanvallen helpt het veld niet vooruit, en de mensen die het doen weten dat.

Altman voegde ook toe dat OpenAI werkt aan het verbeteren van de standaardinstellingen om meer neutraal te zijn, en ook om gebruikers in staat te stellen onze systemen binnen brede grenzen te laten werken in overeenstemming met hun individuele voorkeuren. dit is moeilijker dan het klinkt en het zal even duren voordat we het goed hebben.”

OpenAI is niet het eerste technologiebedrijf dat te maken krijgt met het probleem van AI-bias. Terug in 2021, twee Google-technici hebben ontslag genomen over het ontslag van een Black AI-ethiekonderzoeker Timnit Gebru, een in Eritrea geboren computerwetenschapper die werkt aan algoritmische vooringenomenheid en datamining.

In 2020 schreef Timnit Gebru een paper waarin ze zei dat Google en andere grote technologiebedrijven "institutioneel racistisch.” Haar paper concentreerde zich op soortgelijke problemen waarmee ChatGPT wordt geplaagd, over hoe AI-taalmodellen een structurele voorkeur hebben voor vrouwen en mensen die tot etnische minderheden behoren.

We behandelden OpenAI ongeveer drie jaar geleden voor het eerst Microsoft investeerde 1 miljard dollar bij de organisatie. Als onderdeel van de meerjarige overeenkomst die is bereikt, zullen de twee bedrijven samenwerken om supercomputertechnologieën te brengen en zal OpenAI zijn diensten exclusief in de cloud van Microsoft uitvoeren.

Door het partnerschap zullen de twee bedrijven doorbraken in AI versnellen en de inspanningen van OpenAI om kunstmatige algemene intelligentie (AGI) te creëren, versterken. De resulterende verbeteringen aan het Azure-platform zullen ontwikkelaars ook helpen bij het bouwen van de volgende generatie AI-applicaties. Met de samenwerking zullen Microsoft en OpenAI gezamenlijk nieuwe Azure AI-supercomputertechnologieën bouwen.

Toen hem onlangs werd gevraagd naar ChatGPT en of Microsoft ChatGPT-technologie als experimenteel of strategisch beschouwde, vertelde president Brad Smith aan Reuters dat AI sneller is gevorderd dan velen hadden voorspeld.

"We gaan in 2023 vooruitgang zien die mensen twee jaar geleden in 2033 hadden verwacht. Het wordt niet alleen buitengewoon belangrijk voor de toekomst van Microsoft, maar voor de toekomst van iedereen", zei hij deze week in een interview.

OpenAI werd eind 2015 opgericht door Elon Musk en Sam Altman als een startup met winstoogmerk die onderzoek doet naar kunstmatige intelligentie (AI) met als doel vriendelijke AI te promoten en te ontwikkelen op een manier die de mensheid als geheel ten goede komt. OpenIA zei dat het ernaar streeft "vrij samen te werken" met andere instellingen en onderzoekers door zijn patenten en onderzoek open te stellen voor het publiek. Beide oprichters worden deels gemotiveerd door zorgen over existentiële risico's van kunstmatige algemene intelligentie.

Over het algemeen zijn we van mening dat Altman de kritiek op de vooringenomenheid van ChatGPT heel goed heeft afgehandeld. Het feit dat hij toegaf aan de vooringenomenheid van het ChatGPT-algoritme is een stap in de goede richting.

Tijdstempel:

Meer van TechStartups