Соучредитель OpenAI Сэм Альтман подтверждает, что «у ChatGPT есть недостатки, связанные с предвзятостью»

«Мы знаем, что у ChatGPT есть недостатки, связанные с предвзятостью, и работаем над их улучшением».

Вчера мы писали об OpenAI после того, как некоторые пользователи ChatGPT сообщили, что организация, основанная Илоном Маском и Сэмом Альтманом, превратил чат-бота в политический инструмент и теперь использует это для пропаганды трансгендеризма. «Ущерб, нанесенный авторитету ИИ инженерами ChatGPT, строящими политическую предвзятость, непоправим», — один из ChatGPT. жаловались. «ИИ говорит, что нужно одобрять детей-трансгендеров», — сказал другой пользователь ChatGP.

Всего через несколько часов после публикации соучредитель OpenAI Сэм Альтман обратился в социальные сети, чтобы обсудить проблемы, а также ненависть, направленную к инженерам OpenAI. В сообщении в Твиттере Альтман признал, что ChatGPT в настоящее время имеет некоторые недостатки, связанные с предвзятостью, что не является редкостью для каждой новой технологии. Альтман добавил, что компания работает над улучшением чат-бота. Но он не одобрил нападки на инженеров OpenAI, назвав их ужасающими.

«Мы знаем, что у ChatGPT есть недостатки, связанные с предвзятостью, и работаем над их улучшением. но направлять ненависть на отдельных сотрудников OAI из-за этого просто ужасно. бей меня сколько хочешь, но нападение на других людей здесь не поможет продвижению поля вперед, и люди, которые это делают, знают это».

мы знаем, что у ChatGPT есть недостатки, связанные с предвзятостью, и работаем над их улучшением.

но направлять ненависть на отдельных сотрудников OAI из-за этого просто ужасно. бей меня сколько хочешь, но нападение на других людей здесь не поможет продвижению поля, и люди, которые это делают, знают это.

- Сэм Альтман (@sama) 1 февраля 2023

Альтман также добавил, что OpenAI «работает над улучшением настроек по умолчанию, чтобы они стали более нейтральными, а также над тем, чтобы дать пользователям возможность заставить наши системы вести себя в соответствии с их индивидуальными предпочтениями в широких пределах». это сложнее, чем кажется, и нам потребуется некоторое время, чтобы все исправить».

Все в команде Openai исключительны и глубоко заботятся о нас. я очень благодарен за весь их вклад.❤️

- Сэм Альтман (@sama) 1 февраля 2023

OpenAI — не первая технологическая компания, столкнувшаяся с проблемой предвзятости ИИ. Еще в 2021 году два инженера Google ушли в отставку по поводу увольнения черного исследователя этики ИИ Тимнита Гебру, ученого-компьютерщика эритрейского происхождения, который занимается алгоритмической предвзятостью и интеллектуальным анализом данных.

В 2020 году Тимнит Гебру написала статью, в которой сказала, что Google и другие крупные технологические компании «институционально расистский.Ее статья была посвящена аналогичным проблемам, волнующим ChatGPT, о том, что языковые модели искусственного интеллекта имеют структурную предвзятость в отношении женщин и людей, принадлежащих к этническим меньшинствам.

Впервые мы рассказали об OpenAI около трёх лет назад, после Microsoft инвестировала $1 млрд. в организации. В рамках достигнутого многолетнего соглашения две компании будут работать вместе над внедрением суперкомпьютерных технологий, а OpenAI будет запускать свои сервисы исключительно в облаке Microsoft.

Благодаря партнерству две компании ускорят прорывы в области искусственного интеллекта и усилят усилия OpenAI по созданию искусственного общего интеллекта (AGI). Полученные в результате усовершенствования платформы Azure также помогут разработчикам создавать приложения ИИ следующего поколения. Благодаря партнерству Microsoft и OpenAI будут совместно создавать новые суперкомпьютерные технологии Azure AI.

Когда его недавно спросили о ChatGPT и считает ли Microsoft технологию ChatGPT экспериментальной или стратегической, ее президент Брэд Смит сказал Reuters, что ИИ развивается быстрее, чем многие предсказывали.

«В 2023 году мы увидим прогресс, которого люди два года назад ожидали в 2033 году. Это будет чрезвычайно важно не только для будущего Microsoft, но и для будущего каждого», — сказал он в интервью на этой неделе.

OpenAI была основана в конце 2015 года Илоном Маском и Сэмом Альтманом как коммерческий стартап, проводящий исследования в области искусственного интеллекта (ИИ) с целью продвижения и развития дружественного ИИ таким образом, чтобы принести пользу человечеству в целом. OpenIA заявила, что стремится «свободно сотрудничать» с другими учреждениями и исследователями, делая свои патенты и исследования открытыми для общественности. Оба основателя частично мотивированы опасениями по поводу экзистенциального риска, исходящего от общего искусственного интеллекта.

В целом мы считаем, что Альтман очень хорошо отреагировал на критику по поводу предвзятости ChatGPT. Тот факт, что он признал предвзятость алгоритма ChatGPT, является шагом в правильном направлении.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• Платоблокчейн. Интеллект метавселенной Web3. Расширение знаний. Доступ здесь.
• Источник: https://techstartups.com/2023/02/02/openai-co-founder-sam-altman-confirms-chatgpt-has-shortcomings-around-bias/