私たちは皆、理想的な人間の価値観がテクノロジーに反映されることを望んでいます。私たちは、人工知能 (AI) などのテクノロジーが私たちに嘘をつかず、差別せず、私たちや子供たちにとって安全に使用できることを期待しています。しかし、多くの AI 作成者は現在、モデル内で暴露されたバイアス、不正確さ、問題のあるデータ慣行に対する反発に直面しています。これらの問題には、技術的、アルゴリズム的、または AI ベースのソリューション以上のものが必要です。実際には、総合的で社会技術的なアプローチが必要です。
数学は強力な真実を証明します
AI を含むすべての予測モデルは、人間の多様な知性と経験を組み込むことでより正確になります。これは意見ではありません。それは経験的な妥当性を持っています。考えます 多様性予測定理。簡単に言うと、グループ内の多様性が大きい場合、群衆の間違いは小さくなり、「群衆の知恵」という概念が裏付けられます。影響力のある研究では、低能力の問題解決者の多様なグループが、高能力の問題解決者のグループよりも優れたパフォーマンスを発揮できることが示されました (ホン&ペイジ、2004).
数学的な言葉で言うと: 分散が広いほど、平均値はより標準的になります。 方程式は次のようになります。
A さらなる研究 他のメンバーの予測を無視したり、予測を持っている人々を含めたりするなど、賢明な群衆の統計的定義を洗練するためのより多くの計算が提供されました。 最大限に異なる (負の相関のある)予測または判断。つまり、量だけではなく、多様性が予測を向上させるのです。この洞察は AI モデルの評価にどのような影響を与える可能性がありますか?
モデルの(不正確さ)
よくある格言を引用すると、すべてのモデルは間違っています。これは統計、科学、AI の分野にも当てはまります。ドメインの専門知識が不足した状態で作成されたモデルは、次のような問題を引き起こす可能性があります。 間違っている 出力する。
現在、少数の均質な人々のグループが、英語を大幅に表すソースから抽出された生成 AI モデルをトレーニングするためにどのデータを使用するかを決定しています。 「世界中の 6,000 以上の言語のほとんどでは、利用可能なテキスト データでは大規模な基礎モデルをトレーニングするのに十分ではありません。」 (「」より)ファウンデーションモデルの機会とリスクについて、ボンマサニ他、2022)。
さらに、モデル自体は限られたアーキテクチャから作成されています。「ほとんどすべての最先端の NLP モデルは、BERT、RoBERTa、BART、T5 などのいくつかの基礎モデルの XNUMX つから適応されています。この均質化により、レバレッジが非常に高いため (基盤モデルの改善は、NLP 全体に即座に利益をもたらす可能性があります)、それは負債でもあります。すべての AI システムは、いくつかの基礎モデルの同じ問題のあるバイアスを引き継いでいる可能性があります (ボンマサニら。)」
生成 AI がサービスを提供する多様なコミュニティをより適切に反映するには、はるかに多様な人間のデータをモデルで表現する必要があります。
モデルの精度の評価はバイアスの評価と密接に関係します。モデルの目的は何なのか、誰のために最適化されているのかを問う必要があります。たとえば、コンテンツ推奨アルゴリズムと検索エンジン アルゴリズムから誰が最も恩恵を受けるかを考えてみましょう。利害関係者は、大きく異なる興味や目標を持っている可能性があります。アルゴリズムとモデルには、モデルが改善する必要がある最小限の誤差であるベイズ誤差のターゲットまたはプロキシが必要です。この代理人は、多くの場合、ドメインの専門知識を持つ主題の専門家などの人物です。
非常に人間的な課題: モデルの調達または開発の前にリスクを評価する
新しい AI 規制と行動計画では、アルゴリズムによる影響評価フォームの重要性がますます強調されています。これらのフォームの目的は、ガバナンス チームが AI モデルを導入する前にそのリスクを評価して対処できるように、AI モデルに関する重要な情報を取得することです。典型的な質問には次のようなものがあります。
- あなたのモデルのユースケースは何ですか?
- さまざまな影響によるリスクは何ですか?
- 公平性をどのように評価していますか?
- モデルをどのように説明可能にしていますか?
善意で設計されていますが、問題は、ほとんどの AI モデル所有者が、ユースケースのリスクを評価する方法を理解していないことです。よく言われるのは、「個人を特定できる情報 (PII) を収集していないのに、私のモデルが不公平であるはずがない」というものかもしれません。その結果、ガバナンスシステムがリスク要因に正確にフラグを立てるために必要な思慮深さがフォームに記入されることはほとんどありません。
したがって、この解決策の社会技術的な性質が強調されます。モデル所有者 (個人) に、自分のユースケースが害を及ぼすかどうかを評価するためのチェックボックスのリストを単純に与えることはできません。その代わりに求められているのは、多種多様な現実世界での経験を持つ人々のグループが、心理的安全性を提供するコミュニティに集まり、異質な影響について難しい会話をすることだ。
信頼できる AI に対するより広い視野を歓迎
IBM® は、「クライアント ゼロ」アプローチを採用し、コンサルティングおよび製品主導のソリューション全体で自社のクライアントに対して行う推奨事項やシステムを実装することを信じています。このアプローチは倫理慣行にも拡張されており、IBM が Trustworthy AI Center of Excellence (COE) を設立したのはそのためです。
上で説明したように、AI の影響を適切に評価するには、経験とスキルセットの多様性が重要です。しかし、AI イノベーター、専門家、著名なエンジニアが多数いる企業でセンター オブ エクセレンスに参加するのは気が遠くなる可能性があるため、心理的安全性のコミュニティを育成する必要があります。 IBM はこれを次のように明確に伝えています。「AI に興味がありますか?」 AI 倫理に興味がありますか?あなたはこのテーブルに座っています。」
COE は、あらゆるレベルの実務者に AI 倫理に関するトレーニングを提供します。同期学習 (クラス設定における教師と生徒) プログラムと非同期 (自己指導型) プログラムの両方が提供されます。
しかし、それは COE です 適用された このトレーニングでは、専門家が実際のプロジェクトでグローバルで多様な学際的なチームと協力して、異種の影響をより深く理解する際に、最も深い洞察を得ることができます。また、IBM のデザイン思考フレームワークも活用しています。 AI 向けのデザイン 同グループは、AI モデルの予期せぬ影響を評価するために社内および顧客とともに使用し、疎外されがちな人々のことを常に念頭に置いています。 (シルビア・ダックワースの記事を参照) 力と特権の輪 個人の特性がどのように交差して人々を特権化したり疎外したりするかなどの例を示します。) IBM はまた、フレームワークの多くをオープンソース コミュニティに寄贈しました。 倫理的にデザインする.
以下は、IBM がこれらのプロジェクトに関して公表したレポートの一部です。
AI モデルのパフォーマンスに関する重要な洞察を収集するには、自動化された AI モデル ガバナンス ツールが必要です。ただし、モデルが開発され実稼働環境に入るかなり前にリスクを把握することが最適であることに注意してください。人々がさまざまな影響について真剣に話し合うための安全な場所を提供する、多様な学際的な実践者のコミュニティを作成することで、原則を運用し、責任を持って AI を開発するための歩みを始めることができます。
実際に、AI 実務者を雇用する場合は、モデル作成の労力の 70% 以上が適切なデータの収集であることを考慮してください。代表的でありながら同意を得て収集されたデータを収集する方法を知っている人材を雇用したいと考えています。また、ドメインの専門家と緊密に連携することを知っている人が、正しいアプローチを持っていることを確認する必要もあります。これらの実践者が、謙虚さと洞察力を持って責任を持って AI をキュレーションするという課題に取り組む心の知能指数を確実に備えていることが重要です。私たちは、AI システムが人間の知性を拡張するのと同じくらい、不平等をいつどのように悪化させるかを認識する方法を意図的に学ぶ必要があります。
この記事は役に立ちましたか?
はいいいえ
人工知能の詳細
IBM ニュースレター
最新の思想的リーダーシップと新たなトレンドに関する洞察を提供するニュースレターとトピックの最新情報を入手してください。
今すぐ会員登録します。
その他のニュースレター
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://www.ibm.com/blog/why-we-need-diverse-multidisciplinary-coes-for-model-risk/
- :持っている
- :は
- :not
- :どこ
- $UP
- 000
- 1
- 16
- 2022
- 2024
- 23
- 25
- 28
- 29
- 30
- 300
- 32
- 39
- 40
- 400
- 65
- 7
- 9
- a
- 能力
- 私たちについて
- 上記の.
- AC
- 加速する
- 精度
- 正確な
- 正確にデジタル化
- 越えて
- Action
- 適合しました
- 住所
- 認める
- 採用
- 広告運用
- アドバイス
- 影響を及ぼす
- エージェント
- AI
- AIモデル
- AIシステム
- 目指す
- AL
- アルゴリズムの
- アルゴリズム
- すべて
- また
- 常に
- amp
- an
- 分析論
- および
- どれか
- 申し込み
- アプローチ
- です
- エリア
- 記事
- 人工の
- 人工知能
- 人工知能(AI)
- AS
- 頼む
- 評価する
- 評価中
- 評価
- アシスタント
- 支援する
- At
- オーディオ
- 増強
- 著者
- 利用できます
- 避ける
- バック
- バランシング
- BE
- き
- 始まる
- さ
- と考えています
- 利点
- より良いです
- 越えて
- バイアス
- バイアス
- ブログ
- ブログ
- 青
- ボストン
- 両言語で
- より広い
- 建物
- ビジネス
- ビジネス機能
- ビジネス
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- (Comma Separated Values) ボタンをクリックして、各々のジョブ実行の詳細(開始/停止時間、変数値など)のCSVファイルをダウンロードします。
- by
- 缶
- キャプチャー
- キャプチャ
- カーボン
- カード
- カード
- これ
- 場合
- CAT
- カテゴリー
- 原因となる
- センター
- 中核的研究拠点
- 中央の
- 一定
- 挑戦する
- 特性
- チャットボット
- チェック
- 子
- 子供達
- 円
- CIS
- class
- はっきりと
- クライアント
- 密接に
- クラウド
- カラー
- 組み合わせ
- 到来
- コマンドと
- コミュニティ
- コミュニティ
- 企業
- 会社
- 記入済みの
- コンセプト
- 同意
- その結果
- 検討
- コンサルティング
- コンテナ
- 続ける
- 会話
- 基本
- 正しい
- 相関
- 費用
- 可能性
- 作成した
- 作成
- クリエイター
- 重大な
- 群衆
- CSS
- キュレーション
- 現在
- カスタム
- 顧客
- 顧客満足体験
- Customers
- データ
- 日付
- 決定
- 深い
- デフォルト
- 定義
- 配信する
- 実証
- 展開する
- 説明
- 設計
- デザイン思考
- 設計
- 決定する
- 開発する
- 発展した
- 異なります
- 難しい
- デジタル
- 異なる
- 優れました
- 異なる
- 多様性
- do
- ドメイン
- 寄贈さ
- 描かれた
- ドライブ
- E&T
- 効果
- 努力
- 排除
- 埋め込み
- 受け入れる
- 新興の
- 社員
- enable
- 魅力的
- エンジン
- エンジニア
- 英語
- 十分な
- 確保する
- 入力します
- エラー
- 等
- エーテル(ETH)
- 倫理的な
- 倫理
- 評価する
- 評価します
- 評価
- さらに
- あらゆる
- 悪化する
- 例
- 例
- 優秀
- 出口
- 期待する
- 体験
- エクスペリエンス
- エキスパート
- 専門知識
- 専門家
- 説明
- 露出した
- 拡張する
- 非常に
- Facebookのメッセンジャー
- 容易にする
- 向い
- 要因
- 公平
- false
- 遠く
- スピーディー
- 少数の
- もう完成させ、ワークスペースに掲示しましたか?
- フォーカス
- フォロー中
- フォント
- 最前線
- フォーム
- Foundation
- フレームワーク
- から
- フロント
- 機能
- 集める
- 集まった
- 集まり
- 生々しい
- 生成AI
- ジェネレータ
- 取得する
- 与えられた
- 与える
- グローバル
- 目標
- 目標
- ゴエス
- 良い
- ガバナンス
- 文法
- 大いに
- グリッド
- グループ
- グループの
- 成長性
- ガイド
- 害
- 持ってる
- 見出し
- 聞く
- 高さ
- 助けます
- 役立つ
- ハイ
- 彼に
- 雇う
- 雇用
- 彼の
- 保持している
- 包括的な
- ホーム
- 認定条件
- How To
- HTTPS
- 人間
- 人間の知性
- 謙虚
- ハイブリッド
- ハイブリッドクラウド
- i
- 私は
- IBM
- ICO
- ICON
- 理想
- 特定され
- if
- 無知
- 画像
- 即時の
- 影響
- 影響
- 実装する
- 実装
- 重要性
- 重要
- 改善します
- 改善
- 向上させる
- in
- include
- 含めて
- 包含
- 組み込む
- ますます
- インクリメンタル
- index
- 産業を変えます
- 影響力のある
- 情報
- 革新的手法
- イノベーター
- 洞察力
- 洞察
- 瞬時に
- を取得する必要がある者
- 機関
- 保険
- 保険会社
- インテリジェンス
- インテリジェント-
- 意図
- 意図的な
- 意図
- 興味がある
- 利益
- 内部で
- 交わります
- 介入
- 威圧する
- 本質的な
- ISN
- 問題
- 問題
- IT
- ITS
- 1月
- join
- 参加しませんか
- 旅
- JPG
- ただ
- 保管
- キー
- 知っている
- 既知の
- 欠如
- 言語
- ESL, ビジネスESL <br> 中国語/フランス語、その他
- 大
- 大規模
- 最新の
- つながる
- リーダー
- リーダーシップ
- 学習
- う
- レベル
- 活用します
- 賠償責任
- リー
- ような
- 限定的
- リスト
- ローカル
- ローカル
- LOOKS
- make
- 作成
- 管理
- マニュアル
- 多くの
- math
- 数学的
- 問題
- 最大幅
- 五月..
- me
- 意味する
- 大会
- メッセンジャー
- かもしれない
- 分
- マインド
- 最小
- 分
- モバイル
- モデル
- 近代化
- 他には?
- 最も
- ずっと
- 学際的
- しなければなりません
- my
- 自然
- ナビゲーション
- 必要
- 必要
- 必要とされる
- ニーズ
- マイナスに
- 新作
- 新製品
- ニュースレター
- NLP
- いいえ
- 注意
- 何も
- 今
- 多数の
- of
- オフ
- 提供
- 提供
- オファー
- 頻繁に
- on
- ONE
- オープンソース
- 意見
- 機会
- 最適な
- 最適化
- or
- 組織
- その他
- 私たちの
- 優れたパフォーマンス
- outputs
- が
- 自分の
- 所有者
- ページ
- 参加する
- パス
- のワークプ
- 実行
- 人
- 個人的な
- 個人的に
- 視点
- PHP
- 敬虔な
- プラン
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- プラグイン
- 方針
- 位置
- ポスト
- 潜在的な
- 潜在的なクライアント
- 電力
- 強力な
- 練習
- プラクティス
- 予測
- 予測
- 予測的
- 主要な
- 原則
- 優先順位をつける
- 特権
- 問題
- 調達
- 生産する
- 生産
- 生産性
- 製品
- プログラム
- プロジェクト(実績作品)
- 正しく
- 見通し
- 提供
- 提供
- プロキシ
- 代理
- 心理的な
- 公然と
- 公表
- 置きます
- 質問
- すぐに
- 率
- まれに
- 準備
- リーディング
- リアル
- 現実
- 認識する
- 提言
- 縮小
- リファイン
- 反映する
- 反映
- 規制
- レポート
- 代表者
- で表さ
- リクエスト
- 必要とする
- の提出が必要です
- 研究
- 応答
- 責任
- 責任をもって
- 反応する
- 収入
- 収入の伸び
- 右
- リスク
- 危険因子
- リスク
- ロード
- ロボット
- 安全な
- 安全性
- 前記
- 同じ
- 格言
- 規模
- スケーリング
- 科学
- 画面
- スクリプト
- を検索
- 検索エンジン
- 安全に
- SEO
- 仕える
- 設定
- すべき
- 示す
- 単に
- ウェブサイト
- スラック
- 小さい
- スマート
- スマートスピーカー
- SMS
- So
- 溶液
- ソリューション
- 一部
- ソース
- スペース
- スピーカー
- スポンサー
- 正方形
- ステークホルダー
- 標準
- start
- 最先端の
- 統計的
- 統計
- 生徒
- 勉強
- テーマ
- 申し込む
- そのような
- サポート
- 支援する
- SVG
- システム
- T
- テーブル
- 取得
- ターゲット
- 教師
- チーム
- 技術的
- テクノロジー
- 三次
- 클라우드 기반 AI/ML및 고성능 컴퓨팅을 통한 디지털 트윈의 기초 – Edward Hsu, Rescale CPO 많은 엔지니어링 중심 기업에게 클라우드는 R&D디지털 전환의 첫 단계일 뿐입니다. 클라우드 자원을 활용해 엔지니어링 팀의 제약을 해결하는 단계를 넘어, 시뮬레이션 운영을 통합하고 최적화하며, 궁극적으로는 모델 기반의 협업과 의사 결정을 지원하여 신제품을 결정할 때 데이터 기반 엔지니어링을 적용하고자 합니다. Rescale은 이러한 혁신을 돕기 위해 컴퓨팅 추천 엔진, 통합 데이터 패브릭, 메타데이터 관리 등을 개발하고 있습니다. 이번 자리를 빌려 비즈니스 경쟁력 제고를 위한 디지털 트윈 및 디지털 스레드 전략 개발 방법에 대한 인사이트를 나누고자 합니다.
- より
- 感謝
- それ
- 世界
- アプリ環境に合わせて
- それら
- テーマ
- 自分自身
- ボーマン
- 彼ら
- 考える
- 考え
- この
- それらの
- 考え
- 思考リーダーシップ
- 三
- 介して
- 時間
- 役職
- 〜へ
- 一緒に
- 豊富なツール群
- top
- トピック
- 厳しい
- トレーニング
- トレーニング
- 変換
- トレンド
- true
- 信頼できる
- さえずり
- 2
- type
- 典型的な
- わかる
- 不公平
- ユニーク
- ロック解除
- 更新版
- に
- URL
- us
- つかいます
- 使用事例
- 使用されます
- 活用
- 値
- 価値観
- 多様
- 変化する
- 非常に
- バーチャル
- ボリューム
- W
- 欲しいです
- ました
- we
- WELL
- この試験は
- 何ですか
- いつ
- かどうか
- which
- while
- 誰
- 誰
- なぜ
- 広く
- より広い
- 意志
- 知恵
- WISE
- Word
- WordPress
- 仕事
- 作品
- 世界
- でしょう
- 書かれた
- 間違った
- まだ
- 貴社
- あなたの
- ゼファーネット