AI における多様性の重要性は意見ではなく数学です – IBM ブログ

私たちは皆、理想的な人間の価値観がテクノロジーに反映されることを望んでいます。私たちは、人工知能 (AI) などのテクノロジーが私たちに嘘をつかず、差別せず、私たちや子供たちにとって安全に使用できることを期待しています。しかし、多くの AI 作成者は現在、モデル内で暴露されたバイアス、不正確さ、問題のあるデータ慣行に対する反発に直面しています。これらの問題には、技術的、アルゴリズム的、または AI ベースのソリューション以上のものが必要です。実際には、総合的で社会技術的なアプローチが必要です。

数学は強力な真実を証明します

AI を含むすべての予測モデルは、人間の多様な知性と経験を組み込むことでより正確になります。これは意見ではありません。それは経験的な妥当性を持っています。考えます 多様性予測定理。簡単に言うと、グループ内の多様性が大きい場合、群衆の間違いは小さくなり、「群衆の知恵」という概念が裏付けられます。影響力のある研究では、低能力の問題解決者の多様なグループが、高能力の問題解決者のグループよりも優れたパフォーマンスを発揮できることが示されました (ホン＆ペイジ、2004).

数学的な言葉で言うと: 分散が広いほど、平均値はより標準的になります。 方程式は次のようになります。

A さらなる研究 他のメンバーの予測を無視したり、予測を持っている人々を含めたりするなど、賢明な群衆の統計的定義を洗練するためのより多くの計算が提供されました。 最大限に異なる （負の相関のある）予測または判断。つまり、量だけではなく、多様性が予測を向上させるのです。この洞察は AI モデルの評価にどのような影響を与える可能性がありますか?

モデルの（不正確さ）

よくある格言を引用すると、すべてのモデルは間違っています。これは統計、科学、AI の分野にも当てはまります。ドメインの専門知識が不足した状態で作成されたモデルは、次のような問題を引き起こす可能性があります。 間違っている 出力する。

現在、少数の均質な人々のグループが、英語を大幅に表すソースから抽出された生成 AI モデルをトレーニングするためにどのデータを使用するかを決定しています。 「世界中の 6,000 以上の言語のほとんどでは、利用可能なテキスト データでは大規模な基礎モデルをトレーニングするのに十分ではありません。」 (「」より)ファウンデーションモデルの機会とリスクについて、ボンマサニ他、2022）。

さらに、モデル自体は限られたアーキテクチャから作成されています。「ほとんどすべての最先端の NLP モデルは、BERT、RoBERTa、BART、T5 などのいくつかの基礎モデルの XNUMX つから適応されています。この均質化により、レバレッジが非常に高いため (基盤モデルの改善は、NLP 全体に即座に利益をもたらす可能性があります)、それは負債でもあります。すべての AI システムは、いくつかの基礎モデルの同じ問題のあるバイアスを引き継いでいる可能性があります (ボンマサニら。）」

生成 AI がサービスを提供する多様なコミュニティをより適切に反映するには、はるかに多様な人間のデータをモデルで表現する必要があります。

モデルの精度の評価はバイアスの評価と密接に関係します。モデルの目的は何なのか、誰のために最適化されているのかを問う必要があります。たとえば、コンテンツ推奨アルゴリズムと検索エンジン アルゴリズムから誰が最も恩恵を受けるかを考えてみましょう。利害関係者は、大きく異なる興味や目標を持っている可能性があります。アルゴリズムとモデルには、モデルが改善する必要がある最小限の誤差であるベイズ誤差のターゲットまたはプロキシが必要です。この代理人は、多くの場合、ドメインの専門知識を持つ主題の専門家などの人物です。

非常に人間的な課題: モデルの調達または開発の前にリスクを評価する

新しい AI 規制と行動計画では、アルゴリズムによる影響評価フォームの重要性がますます強調されています。これらのフォームの目的は、ガバナンス チームが AI モデルを導入する前にそのリスクを評価して対処できるように、AI モデルに関する重要な情報を取得することです。典型的な質問には次のようなものがあります。

• あなたのモデルのユースケースは何ですか?
• さまざまな影響によるリスクは何ですか?
• 公平性をどのように評価していますか?
• モデルをどのように説明可能にしていますか?

善意で設計されていますが、問題は、ほとんどの AI モデル所有者が、ユースケースのリスクを評価する方法を理解していないことです。よく言われるのは、「個人を特定できる情報 (PII) を収集していないのに、私のモデルが不公平であるはずがない」というものかもしれません。その結果、ガバナンスシステムがリスク要因に正確にフラグを立てるために必要な思慮深さがフォームに記入されることはほとんどありません。

したがって、この解決策の社会技術的な性質が強調されます。モデル所有者 (個人) に、自分のユースケースが害を及ぼすかどうかを評価するためのチェックボックスのリストを単純に与えることはできません。その代わりに求められているのは、多種多様な現実世界での経験を持つ人々のグループが、心理的安全性を提供するコミュニティに集まり、異質な影響について難しい会話をすることだ。

信頼できる AI に対するより広い視野を歓迎

IBM® は、「クライアント ゼロ」アプローチを採用し、コンサルティングおよび製品主導のソリューション全体で自社のクライアントに対して行う推奨事項やシステムを実装することを信じています。このアプローチは倫理慣行にも拡張されており、IBM が Trustworthy AI Center of Excellence (COE) を設立したのはそのためです。

上で説明したように、AI の影響を適切に評価するには、経験とスキルセットの多様性が重要です。しかし、AI イノベーター、専門家、著名なエンジニアが多数いる企業でセンター オブ エクセレンスに参加するのは気が遠くなる可能性があるため、心理的安全性のコミュニティを育成する必要があります。 IBM はこれを次のように明確に伝えています。「AI に興味がありますか?」 AI 倫理に興味がありますか?あなたはこのテーブルに座っています。」

COE は、あらゆるレベルの実務者に AI 倫理に関するトレーニングを提供します。同期学習 (クラス設定における教師と生徒) プログラムと非同期 (自己指導型) プログラムの両方が提供されます。

しかし、それは COE です 適用された このトレーニングでは、専門家が実際のプロジェクトでグローバルで多様な学際的なチームと協力して、異種の影響をより深く理解する際に、最も深い洞察を得ることができます。また、IBM のデザイン思考フレームワークも活用しています。 AI 向けのデザイン 同グループは、AI モデルの予期せぬ影響を評価するために社内および顧客とともに使用し、疎外されがちな人々のことを常に念頭に置いています。 (シルビア・ダックワースの記事を参照) 力と特権の輪 個人の特性がどのように交差して人々を特権化したり疎外したりするかなどの例を示します。) IBM はまた、フレームワークの多くをオープンソース コミュニティに寄贈しました。 倫理的にデザインする.

以下は、IBM がこれらのプロジェクトに関して公表したレポートの一部です。

AI モデルのパフォーマンスに関する重要な洞察を収集するには、自動化された AI モデル ガバナンス ツールが必要です。ただし、モデルが開発され実稼働環境に入るかなり前にリスクを把握することが最適であることに注意してください。人々がさまざまな影響について真剣に話し合うための安全な場所を提供する、多様な学際的な実践者のコミュニティを作成することで、原則を運用し、責任を持って AI を開発するための歩みを始めることができます。

実際に、AI 実務者を雇用する場合は、モデル作成の労力の 70% 以上が適切なデータの収集であることを考慮してください。代表的でありながら同意を得て収集されたデータを収集する方法を知っている人材を雇用したいと考えています。また、ドメインの専門家と緊密に連携することを知っている人が、正しいアプローチを持っていることを確認する必要もあります。これらの実践者が、謙虚さと洞察力を持って責任を持って AI をキュレーションするという課題に取り組む心の知能指数を確実に備えていることが重要です。私たちは、AI システムが人間の知性を拡張するのと同じくらい、不平等をいつどのように悪化させるかを認識する方法を意図的に学ぶ必要があります。

AI を活用してビジネスの仕組みを再構築する