Співзасновник OpenAI Сем Альтман підтверджує, що «ChatGPT має недоліки щодо упередженості»

Співзасновник OpenAI Сем Альтман підтверджує, що «ChatGPT має недоліки щодо упередженості»

Мітка часу: 2 лютого 2023 11:26
Вихідний вузол: 1935966

«Ми знаємо, що ChatGPT має недоліки щодо упередженості, і працюємо над його покращенням».

Вчора ми писали про OpenAI після того, як деякі користувачі ChatGPT повідомили, що організація, співзасновниками якої є Ілон Маск і Сем Альтман, перетворив чат-бот на політичний інструмент і тепер використовує його для просування трансгендерності. «Шкода, завдана довірі до штучного інтелекту інженерами ChatGPT, які створюють політичні упередження, непоправна», — сказав один із ChatGPT. скаржилися. «ШІ радить підтримувати трансгендерних дітей», — сказав інший користувач ChatGP.

Лише через кілька годин після публікації співзасновник OpenAI Сем Альтман звернувся до соціальних мереж, щоб висвітлити проблеми та ненависть, спрямовану до інженерів OpenAI. У дописі в ланцюжку Twitter Альтман визнав, що ChatGPT наразі має деякі недоліки щодо упередженості, що не є рідкістю для кожної нової технології. Альтман додав, що компанія працює над вдосконаленням чат-бота. Але він не сприйняв нападки на інженерів OpenAI, назвавши їх жахливими.

«Ми знаємо, що ChatGPT має недоліки, пов’язані з упередженістю, і працюємо над його покращенням. але скеровувати ненависть на окремих співробітників OAI через це жахливо. бийте мене скільки завгодно, але напади на інших людей тут не сприяють розвитку поля, і люди, які це роблять, це знають».

Альтман також додав, що OpenAI «працює над покращенням налаштувань за замовчуванням, щоб вони були більш нейтральними, а також над тим, щоб дати користувачам можливість змусити наші системи поводитися відповідно до їхніх індивідуальних уподобань у широких межах. це складніше, ніж здається, і нам знадобиться деякий час, щоб виправитися».

OpenAI не перша технологічна компанія, яка зіткнулася з проблемою упередженості штучного інтелекту. Ще в 2021 році два інженери Google подали у відставку через звільнення чорношкірого дослідника етики штучного інтелекту Тімніта Гебру, комп’ютерника, що народився в Еритреї, який працює над алгоритмічними упередженнями та аналізом даних.

У 2020 році Тімніт Гебру написала статтю, в якій сказала, що Google та інші великі технологічні компанії «інституційно расистський.Її стаття була зосереджена на подібних проблемах, які мучать ChatGPT, про те, як мовні моделі штучного інтелекту мають структурне упередження проти жінок і людей, що належать до етнічних меншин.

Ми вперше розглянули OpenAI близько трьох років тому Microsoft інвестувала 1 мільярд доларів в організації. У рамках досягнутої багаторічної угоди дві компанії працюватимуть разом, щоб представити суперкомп’ютерні технології, а OpenAI забезпечить свої послуги виключно в хмарі Microsoft.

Завдяки партнерству обидві компанії прискорять прорив у ШІ та посилять зусилля OpenAI зі створення штучного загального інтелекту (AGI). Удосконалення платформи Azure також допоможуть розробникам створити наступне покоління додатків ШІ. Завдяки партнерству Microsoft і OpenAI спільно створять нові суперкомп’ютерні технології Azure AI.

Коли його нещодавно запитали про ChatGPT і чи розглядає Microsoft технологію ChatGPT як експериментальну чи стратегічну, її президент Бред Сміт сказав Reuters, що штучний інтелект прогресує швидше, ніж багато хто прогнозував.

«У 2023 році ми побачимо прогрес, який люди два роки тому очікували в 2033 році. Це буде надзвичайно важливо не лише для майбутнього Microsoft, але й для майбутнього кожного», — сказав він в інтерв’ю цього тижня.

OpenAI був заснований наприкінці 2015 року Ілоном Маском і Семом Альтманом як комерційний стартап, який проводить дослідження в галузі штучного інтелекту (ШІ) з метою просування та розвитку дружнього ШІ таким чином, щоб принести користь людству в цілому. OpenIA заявила, що прагне «вільно співпрацювати» з іншими установами та дослідниками, роблячи свої патенти та дослідження відкритими для громадськості. Обидва засновники мотивовані частково занепокоєнням щодо екзистенціального ризику від штучного загального інтелекту.

Загалом ми вважаємо, що Альтман дуже добре впорався з критикою щодо упередженості ChatGPT. Той факт, що він визнав упередженість алгоритму ChatGPT, є кроком у правильному напрямку.

Часова мітка:

Більше від TechStartaps