OpenAIの共同創設者であるサム・アルトマンは、「ChatGPTにはバイアスに関する欠点がある」ことを認めています

OpenAIの共同創設者であるサム・アルトマンは、「ChatGPTにはバイアスに関する欠点がある」ことを認めています

タイムスタンプ: 2 年 2023 月 11 日 26:XNUMX AM
ソースノード： 1935966

「ChatGPT にはバイアスに関する欠点があることを認識しており、それを改善するために取り組んでいます。」

昨日、ChatGPT の一部のユーザーが、Elon Musk と Sam Altman によって共同設立された組織が チャットボットを政治ツールに変えた そして今、それを使ってトランスジェンダーリズムを促進しています。 「ChatGPT のエンジニアが政治的偏見を構築することによって AI の信頼性に与えられた損害は取り返しのつかないものです」と ChatGPT の XNUMX 人は述べています。 不平を言う. 「AI はトランスジェンダーの子供を肯定するように言います」と別の ChatGP ユーザーは言いました。

話題からわずか数時間後、OpenAI の共同創設者である Sam Altman はソーシャル メディアを利用して、OpenAI エンジニアに向けられた憎しみとともに問題に対処しました。 Altman は Twitter スレッドの投稿で、ChatGPT には現在、バイアスに関するいくつかの欠陥があることを認めました。これは、すべての新しいテクノロジーで珍しくありません。 アルトマン氏は、同社がチャットボットの改善に取り組んでいると付け加えました。 しかし、彼は OpenAI エンジニアに対する攻撃を冷静に受け止めず、ぞっとするようなものだと言いました。

「ChatGPT にはバイアスに関する欠点があることを認識しており、それを改善するために取り組んでいます。 しかし、これを理由に個々の OAI 従業員に憎悪を向けることは恐ろしいことです。 好きなだけ私を殴ってください。しかし、ここで他の人を攻撃することは、フィールドの進歩に役立ちません。それをやっている人はそれを知っています.

Altman はまた、OpenAI は「デフォルト設定をより中立的に改善し、ユーザーが広い範囲内で個々の好みに従ってシステムを動作させることができるようにするために取り組んでいる」と付け加えました。 これは思ったよりも難しく、正しくなるまでに時間がかかるでしょう。」

OpenAI は、AI バイアスの問題に直面した最初のテクノロジー企業ではありません。 2021年に戻ると、 XNUMX 人の Google エンジニアが辞職 エリトリア生まれのコンピューター科学者で、アルゴリズムのバイアスとデータ マイニングに取り組んでいる、黒人の AI 倫理研究者 Timnit Gebru の解雇について。

2020 年、Timnit Gebru は論文を書き、Google やその他の大手テクノロジー企業は「組織的に人種差別主義者。彼女の論文は、AI 言語モデルが女性や少数民族に属する人々に対してどのように構造的偏見を持っているかについて、ChatGPT を悩ませている同様の問題に焦点を当てていました。

OpenAI について初めて取り上げたのは、約 XNUMX 年前です。 マイクロソフトは1億ドルを投資 組織で。 達成された複数年契約の一環として、両社は協力してスーパーコンピューティング テクノロジを導入し、OpenAI はそのサービスを Microsoft のクラウドで独占的に実行します。

このパートナーシップを通じて、両社は AI のブレークスルーを加速し、汎用人工知能 (AGI) を作成する OpenAI の取り組みを強化します。 結果として生じる Azure プラットフォームの機能強化は、開発者が次世代の AI アプリケーションを構築するのにも役立ちます。 このパートナーシップにより、Microsoft と OpenAI は新しい Azure AI スーパーコンピューティング テクノロジを共同で構築します。

ChatGPT について最近尋ねられたとき、Microsoft が ChatGPT テクノロジを実験的または戦略的と見なしているかどうかを尋ねられたとき、同社の社長である Brad Smith 氏はロイターに、AI は多くの人が予測したよりも速く進歩していると語った。

「2023 年前の人々が 2033 年に期待したであろう進歩が XNUMX 年には見られるでしょう。それはマイクロソフトの将来だけでなく、すべての人の将来にとって非常に重要になるでしょう」と彼は今週のインタビューで述べました。

OpenAI は、人類全体に利益をもたらすような方法でフレンドリーな AI を促進および開発することを目的として、人工知能 (AI) の研究を行う営利目的のスタートアップとして、Elon Musk と Sam Altman によって 2015 年後半に設立されました。 OpenIA は、特許と研究を公開することで、他の機関や研究者と「自由に協力」することを目指していると述べた。 どちらの創設者も、汎用人工知能による実存的リスクに対する懸念に動機付けられています。

全体として、Altman は ChatGPT バイアスに関する批判をうまく処理したと考えています。 彼が ChatGPT アルゴリズムのバイアスを認めたという事実は、正しい方向への一歩です。

タイムスタンプ：

より多くの テックスタートアップ