اوپن اے آئی کے شریک بانی سیم آلٹ مین نے تصدیق کی کہ 'چیٹ جی پی ٹی میں تعصب کے ارد گرد کوتاہیاں ہیں'

اوپن اے آئی کے شریک بانی سیم آلٹ مین نے تصدیق کی کہ 'چیٹ جی پی ٹی میں تعصب کے ارد گرد کوتاہیاں ہیں'

ٹائم سٹیمپ: 2 فروری 2023 11:26 AM
ماخذ نوڈ: 1935966

“We know that ChatGPT has shortcomings around bias, and are working to improve it.”

Yesterday, we wrote about OpenAI after some users of ChatGPT reported that the organization co-founded by Elon Musk and Sam Altman has turned the chatbot into a political tool and now using it to promote transgenderism. “The damage done to the credibility of AI by ChatGPT engineers building in political bias is irreparable,” one ChatGPT شکایت کی. “AI says to affirm transgender children,” another ChatGP user said.

Just a few hours after a story, OpenAI co-founder Sam Altman took to social media to address the issues along with the hate directed toward the OpenAI engineers. In a Twitter thread post, Altman admitted that ChatGPT currently has some flaws around bias, which is not uncommon for every new technology. Altman added that the company is working to improve the chatbot. But he didn’t take kindly the attacks on OpenAI engineers, calling it appalling.

“We know that ChatGPT has shortcomings around bias, and are working to improve it. but directing hate at individual OAI employees because of this is appalling. hit me all you want, but attacking other people here doesn’t help the field advance, and the people doing it know that.”

Altman also added that OpenAI is “working to improve the default settings to be more neutral, and also to empower users to get our systems to behave in accordance with their individual preferences within broad bounds. this is harder than it sounds and will take us some time to get right.”

OpenAI is not the first tech company to face the AI bias problem. Back in 2021, two Google engineers resigned over the firing of a Black AI ethics researcher Timnit Gebru, an Eritrean-born computer scientist who works on algorithmic bias and data mining.

In 2020, Timnit Gebru wrote a paper where she said that Google and other big tech companies are “institutionally racist.” Her paper focused on similar issues plaguing ChatGPT about how AI language models have a structural bias against women and people belonging to ethnic minorities.

We first covered OpenAI about three years ago after مائیکروسافٹ نے 1 بلین ڈالر کی سرمایہ کاری کی۔ تنظیم میں. کئی سالہ معاہدے کے حصے کے طور پر، دونوں کمپنیاں سپر کمپیوٹنگ ٹیکنالوجیز لانے کے لیے مل کر کام کریں گی اور OpenAI اپنی خدمات کو خصوصی طور پر Microsoft کے کلاؤڈ میں چلائے گی۔

شراکت داری کے ذریعے، دونوں کمپنیاں AI میں پیش رفت کو تیز کریں گی اور مصنوعی جنرل انٹیلی جنس (AGI) بنانے کے لیے OpenAI کی کوششوں کو طاقت دیں گی۔ Azure پلیٹ فارم کے نتیجے میں ہونے والے اضافہ سے ڈویلپرز کو AI ایپلی کیشنز کی اگلی نسل بنانے میں بھی مدد ملے گی۔ شراکت داری کے ساتھ، Microsoft اور OpenAI مشترکہ طور پر نئی Azure AI سپر کمپیوٹنگ ٹیکنالوجیز بنائیں گے۔

حال ہی میں جب چیٹ جی پی ٹی کے بارے میں پوچھا گیا اور اگر مائیکروسافٹ نے چیٹ جی پی ٹی ٹیکنالوجی کو تجرباتی یا اسٹریٹجک کے طور پر دیکھا تو اس کے صدر بریڈ اسمتھ نے رائٹرز کو بتایا کہ اے آئی نے بہت سی پیش گوئیوں سے زیادہ تیزی سے ترقی کی ہے۔

"ہم 2023 میں ایسی پیشرفت دیکھنے جا رہے ہیں جس کی دو سال پہلے کے لوگ 2033 میں توقع کر رہے ہوں گے۔ یہ نہ صرف مائیکروسافٹ کے مستقبل کے لیے، بلکہ ہر ایک کے مستقبل کے لیے انتہائی اہم ہونے والا ہے،" انہوں نے اس ہفتے ایک انٹرویو میں کہا۔

OpenAI was founded in late 2015 by Elon Musk and Sam Altman as a for-profit startup conducting research in artificial intelligence (AI) with the goal of promoting and developing friendly AI in such a way as to benefit humanity as a whole. OpenIA said it aims to “freely collaborate” with other institutions and researchers by making its patents and research open to the public. Both founders are motivated in part by concerns about existential risk from artificial general intelligence.

Overall, we believe Altman handled the criticism about the ChatGPT bias very well. The fact that he admitted to the ChatGPT algorithm bias is a step in the right direction.

ٹائم اسٹیمپ:

سے زیادہ ٹیک اسٹارٹپس