Współzałożyciel OpenAI, Sam Altman, potwierdza, że ​​„ChatGPT ma wady związane z uprzedzeniami”

„Wiemy, że ChatGPT ma wady związane z uprzedzeniami i pracujemy nad jego ulepszeniem”.

Wczoraj pisaliśmy o OpenAI po tym, jak niektórzy użytkownicy ChatGPT poinformowali, że organizacja współzałożona przez Elona Muska i Sama Altmana zmienił chatbota w narzędzie polityczne a teraz używa go do promowania transpłciowości. „Szkody wyrządzone wiarygodności sztucznej inteligencji przez inżynierów ChatGPT budujących w oparciu o polityczne uprzedzenia są nie do naprawienia” — powiedział jeden z ChatGPT narzekał. „AI mówi, aby afirmować dzieci transpłciowe” – powiedział inny użytkownik ChatGP.

Zaledwie kilka godzin po artykule współzałożyciel OpenAI, Sam Altman, zabrał się do mediów społecznościowych, aby zająć się problemami i nienawiścią skierowaną do inżynierów OpenAI. W poście na Twitterze Altman przyznał, że ChatGPT ma obecnie pewne wady związane z uprzedzeniami, co nie jest rzadkością w przypadku każdej nowej technologii. Altman dodał, że firma pracuje nad ulepszeniem chatbota. Ale nie przyjął uprzejmie ataków na inżynierów OpenAI, nazywając je przerażającymi.

„Wiemy, że ChatGPT ma wady związane z uprzedzeniami i pracujemy nad jego ulepszeniem. ale kierowanie nienawiści do poszczególnych pracowników OAI z tego powodu jest przerażające. bij mnie, ile chcesz, ale atakowanie innych ludzi tutaj nie pomaga w rozwoju pola, a ludzie, którzy to robią, wiedzą o tym.

wiemy, że ChatGPT ma wady związane z uprzedzeniami i pracujemy nad jego poprawą.

ale kierowanie nienawiści do poszczególnych pracowników OAI z tego powodu jest przerażające. bij mnie, ile chcesz, ale atakowanie innych ludzi tutaj nie pomaga w rozwoju pola, a ludzie, którzy to robią, wiedzą o tym.

—Sam Altman (@sama) 1 lutego 2023 r.

Altman dodał również, że OpenAI „pracuje nad poprawą ustawień domyślnych, aby były bardziej neutralne, a także nad umożliwieniem użytkownikom, aby nasze systemy zachowywały się zgodnie z ich indywidualnymi preferencjami w szerokich granicach. jest to trudniejsze, niż się wydaje, i zajmie nam trochę czasu, zanim wszystko będzie dobrze”.

wszyscy w zespole Openai są wyjątkowi i bardzo im zależy. Jestem bardzo wdzięczny za wszystkie ich wkłady.❤️

—Sam Altman (@sama) 1 lutego 2023 r.

OpenAI nie jest pierwszą firmą technologiczną, która boryka się z problemem stronniczości AI. W 2021 r. dwóch inżynierów Google złożyło rezygnację w sprawie zwolnienia badacza etyki Black AI, Timnita Gebru, urodzonego w Erytrei informatyka, który pracuje nad algorytmicznymi uprzedzeniami i eksploracją danych.

W 2020 roku Timnit Gebru napisała artykuł, w którym stwierdziła, że ​​Google i inne duże firmy technologiczne są „instytucjonalnie rasistowski.Jej artykuł koncentrował się na podobnych problemach nękających ChatGPT, dotyczących tego, w jaki sposób modele językowe AI mają strukturalne uprzedzenia wobec kobiet i osób należących do mniejszości etnicznych.

Po raz pierwszy omówiliśmy OpenAI około trzy lata temu Microsoft zainwestował miliard dolarów w organizacji. W ramach osiągniętego wieloletniego porozumienia obie firmy będą współpracować w celu wprowadzenia technologii superkomputerowych, a OpenAI będzie świadczyć swoje usługi wyłącznie w chmurze Microsoftu.

Dzięki partnerstwu obie firmy przyspieszą przełom w sztucznej inteligencji i wzmocnią wysiłki OpenAI na rzecz stworzenia sztucznej inteligencji ogólnej (AGI). Wynikające z tego ulepszenia platformy Azure pomogą również programistom w tworzeniu aplikacji AI nowej generacji. Dzięki partnerstwu Microsoft i OpenAI będą wspólnie tworzyć nowe technologie superkomputerowe Azure AI.

Zapytany niedawno o ChatGPT i czy Microsoft postrzega technologię ChatGPT jako eksperymentalną czy strategiczną, jej prezes Brad Smith powiedział Reuterowi, że sztuczna inteligencja postępuje szybciej niż wielu przewidywało.

„W 2023 roku zobaczymy postępy, których ludzie dwa lata temu oczekiwaliby w 2033 roku. Będzie to niezwykle ważne nie tylko dla przyszłości Microsoftu, ale dla przyszłości wszystkich”, powiedział w wywiadzie w tym tygodniu.

OpenAI zostało założone pod koniec 2015 roku przez Elona Muska i Sama Altmana jako start-up nastawiony na zysk, prowadzący badania nad sztuczną inteligencją (AI) w celu promowania i rozwijania przyjaznej sztucznej inteligencji w sposób przynoszący korzyści całej ludzkości. OpenIA powiedział, że ma na celu „swobodną współpracę” z innymi instytucjami i naukowcami, udostępniając publicznie swoje patenty i badania. Obaj założyciele są częściowo motywowani obawami o egzystencjalne ryzyko związane ze sztuczną inteligencją ogólną.

Ogólnie uważamy, że Altman bardzo dobrze poradził sobie z krytyką dotyczącą stronniczości ChatGPT. Fakt, że przyznał się do stronniczości algorytmu ChatGPT, jest krokiem we właściwym kierunku.

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• Platoblockchain. Web3 Inteligencja Metaverse. Wzmocniona wiedza. Dostęp tutaj.
• Źródło: https://techstartups.com/2023/02/02/openai-co-founder-sam-altman-confirms-chatgpt-has-shortcomings-around-bias/