責任ある AI イノベーションを可能にする新しいツールと機能を発表 | アマゾン ウェブ サービス

生成 AI の急速な成長は、有望な新しいイノベーションをもたらすと同時に、新たな課題も引き起こします。 これらの課題には、バイアスや説明可能性など、生成 AI が登場する前によく見られたいくつかの課題が含まれます。 ファウンデーションモデルならではの新機能 (FM)、幻覚や毒性を含む。 AWS では、次のことに取り組んでいます。 責任を持って生成型 AI を開発し、 教育、科学、顧客を優先する人間中心のアプローチを採用し、エンドツーエンドの AI ライフサイクル全体にわたって責任ある AI を統合します。

過去 XNUMX 年間、私たちは生成 AI アプリケーションとモデルに、組み込みのセキュリティ スキャンなどの新機能を導入してきました。 アマゾン コード ウィスパラー、有害なコンテンツを検出してブロックするためのトレーニング アマゾンタイタン、およびデータプライバシー保護 アマゾンの岩盤。 安全、透明、責任ある生成型 AI への当社の投資には、世界のコミュニティや政策立案者との協力が含まれており、 ホワイトハウスの自主的な AI への取り組み および AIセーフティサミット イギリスで。 そして、私たちはお客様と協力して、次のような専用ツールを使用して責任ある AI を運用し続けます。 Amazon SageMaker の明確化, Amazon SageMaker による ML ガバナンス、 もっと。

新しい責任ある AI イノベーションの導入

生成型 AI が新しい業界、組織、ユースケースに拡張されるにつれて、この成長には責任ある FM 開発への継続的な投資が伴う必要があります。 顧客は、責任を持って AI を導入できるように、安全性、公平性、セキュリティを念頭に置いて FM が構築されることを望んでいます。 今年の AWS re:Invent では、新しい組み込みツール、顧客保護、透明性を高めるためのリソース、偽情報と戦うためのツールを備えた幅広い機能セットにわたって、責任ある生成型 AI イノベーションを促進する新機能を発表できることを嬉しく思います。 当社は、毒性や堅牢性などの責任ある AI の重要な考慮事項に照らして FM を評価するために必要な情報を顧客に提供し、顧客のユースケースと責任ある AI ポリシーに基づいて安全対策を適用するためのガードレールを導入することを目指しています。 同時に、お客様は、自社の組織内で AI サービスと FM を使用する際に、その安全性、公平性、セキュリティ、およびその他の特性についてより詳しい情報を知りたいと考えています。 お客様が当社の AWS AI サービスをより深く理解し、求めている透明性を提供できるよう、さらに多くのリソースを発表できることを嬉しく思います。

セーフガードの実装: Amazon Bedrock のガードレール

生成 AI を大規模に導入する場合、安全性が最優先されます。 組織は、有害な言葉や不快な言葉を避け、会社のポリシーに沿った生成 AI アプリケーションと顧客との間の安全な対話を促進したいと考えています。 そのための最も簡単な方法は、組織全体にわたって一貫した保護措置を講じて、全員が安全にイノベーションを行えるようにすることです。 昨日、プレビューを発表しました Amazon Bedrock のガードレール—顧客のユースケースと責任ある AI ポリシーに基づいて、アプリケーション固有の保護手段を簡単に実装できる新機能です。

ガードレールは、Amazon Bedrock の FM がアプリケーション内の望ましくない有害なコンテンツに対応する方法の一貫性を促進します。 お客様は、Amazon Bedrock 上の大規模な言語モデルだけでなく、微調整されたモデルにもガードレールを適用でき、 Amazon Bedrock のエージェント。 ガードレールを使用すると、回避するトピックを指定でき、サービスは制限されたカテゴリに分類されるクエリと応答を自動的に検出して防止します。 また、ヘイトスピーチ、侮辱、性的表現、暴力などのカテゴリ全体にコンテンツ フィルターのしきい値を設定して、有害なコンテンツを必要なレベルまで除外することもできます。 たとえば、オンライン バンキング アプリケーションは、投資アドバイスの提供を回避し、不適切なコンテンツ (ヘイトスピーチ、侮辱、暴力など) を制限するように設定できます。 近い将来、顧客はユーザー入力や FM の応答に含まれる個人を特定できる情報 (PII) を編集したり、冒涜的なフィルターを設定したり、ユーザーと FM 間のやり取りをブロックするカスタム単語のリストを提供したりすることもできるようになり、コンプライアンスが向上し、さらにユーザーを保護します。 Guardrails を使用すると、企業ポリシーと一致した保護と安全対策を維持しながら、生成 AI を使用してより迅速にイノベーションを起こすことができます。

特定のユースケースに最適な FM の特定: Amazon Bedrock でのモデル評価

現在、組織には生成 AI アプリケーションを強化するための幅広い FM オプションがあります。 ユースケースに合わせて精度とパフォーマンスの適切なバランスをとるために、組織はモデルを効率的に比較し、重要な責任ある AI と品質指標に基づいて最適なオプションを見つける必要があります。 モデルを評価するには、組織はまずベンチマークの特定、評価ツールのセットアップ、評価の実行に数日を費やす必要がありますが、これらすべてにデータ サイエンスに関する深い専門知識が必要です。 さらに、これらのテストは、退屈で時間のかかる人間によるレビューのワークフローによる判断を必要とする主観的な基準 (ブランドの声、関連性、スタイルなど) を評価するのには役に立ちません。 新しいユースケースごとにこれらの評価に必要な時間、専門知識、リソースにより、組織が責任ある AI の側面に照らしてモデルを評価し、顧客に最も正確で安全なエクスペリエンスを提供するモデルについて情報に基づいた選択を行うことが困難になります。

現在プレビューで利用可能です。 Amazon Bedrock でのモデルの評価 自動評価または人間による評価を使用して、顧客が精度や安全性などのカスタム指標に基づいて特定のユースケースに最適な FM を評価、比較、選択できるようにします。 Amazon Bedrock コンソールで、顧客は質問応答やコンテンツ要約などの特定のタスクについて比較する FM を選択します。 自動評価の場合、顧客は事前定義された評価基準 (精度、堅牢性、毒性など) を選択し、独自のテスト データセットをアップロードするか、組み込みの公的に利用可能なデータセットから選択します。 主観的な基準や判断が必要な微妙なコンテンツの場合、顧客は数回クリックするだけで人間ベースの評価ワークフローを簡単に設定できます。 これらのワークフローは、顧客の社内ワークチーム、または AWS が提供する管理された労働力を利用して、モデルの応答を評価します。 人間ベースの評価中に、顧客はユースケース固有の指標 (関連性、スタイル、ブランドの声など) を定義します。 お客様がセットアッププロセスを完了すると、Amazon Bedrock が評価を実行してレポートを生成するため、お客様は主要な安全性と精度の基準においてモデルがどのように機能したかを簡単に理解し、ユースケースに最適なモデルを選択できます。

このモデルを評価する機能は Amazon Bedrock に限定されません。顧客は Amazon SageMaker Clear のモデル評価を使用して、精度、堅牢性、毒性などの主要な品質と責任の指標全体にわたって最適な FM オプションを簡単に評価、比較、選択することもできます。すべてのFM。

偽情報との戦い: Amazon Titan のウォーターマーク

本日、発表しました Amazon Titan 画像ジェネレーター これにより、お客様は高品質の画像を大規模に迅速に作成および強化できるようになります。 私たちは、トレーニング データの選択、不適切なユーザー入力とモデル出力を検出して削除するフィルタリング機能の構築、モデル出力の人口統計的多様性の改善など、モデル開発プロセスの各段階で責任ある AI について検討しました。 Amazon Titan が生成したすべての画像には、デフォルトで目に見えないウォーターマークが含まれています。これは、AI が生成した画像を識別するための慎重なメカニズムを提供することで、偽情報の拡散を減らすように設計されています。 AWS は、画像出力に統合され、改ざんされにくいように設計された組み込みの目に見えないウォーターマークを広くリリースした最初のモデルプロバイダーの XNUMX つです。

信頼の構築: 補償付きで当社のモデルとアプリケーションを支持します

顧客の信頼を築くことは AWS の中核です。 当社は創業以来、お客様とともに歩んできました。生成 AI の成長に伴い、革新的なテクノロジーを一緒に構築することに引き続き取り組んでいます。 お客様が当社の生成 AI の力を活用できるようにするには、自分たちが保護されていることを認識する必要があります。 AWS は、次の Amazon 生成 AI サービスの出力に対して著作権補償を提供します: Amazon Titan Text Express、Amazon Titan Text Lite、Amazon Titan Embeddings、Amazon Titan Multimodal Embeddings、Amazon CodeWhisperer Professional、 AWS ヘルススクライブ, Amazon Lex, Amazonパーソナライズ。 これは、責任を持ってサービスを使用する顧客が、それらのサービスによって生成された出力による著作権侵害を主張する第三者の申し立てから保護されることを意味します (本書のセクション 50.10 を参照)。 Service Terms）。 さらに、サービスの使用に対する当社の標準 IP 補償は、サービスおよびサービスのトレーニングに使用されたデータによる IP 侵害を主張する第三者の申し立てから顧客を保護します。 別の言い方をすると、上記の Amazon 生成 AI サービスを使用していて、誰かが IP 侵害であなたを訴えた場合、AWS はその訴訟を弁護します。これには、あなたに対する判決や和解費用の負担も含まれます。

私たちは生成 AI サービスを支持し、継続的な改善に取り組んでいます。 AWS が新しいサービスを開始し、生成 AI が進化し続ける中、AWS は今後も顧客の信頼の獲得と維持に絶え間なく注力していきます。

透明性の強化: Amazon Titan テキスト用の AWS AI サービスカード

We AWS AIサービスカードを導入 re:Invent 2022 では、お客様が AWS AI サービスをよりよく理解できるようにするための透明性リソースとして提供されています。 AI サービス カードは、責任ある AI ドキュメントの形式であり、意図されたユースケースと制限、責任ある AI 設計の選択、AI サービスの展開とパフォーマンスの最適化のベスト プラクティスに関する情報を XNUMX か所で見つけることができる場所をお客様に提供します。 これらは、公平性、説明可能性、真実性と堅牢性、ガバナンス、透明性、プライバシーとセキュリティ、安全性、制御可能性に対処する責任ある方法でサービスを構築するために当社が取り組む包括的な開発プロセスの一部です。

今年の re:Invent では、 Amazon Titan Text 用の新しい AI サービス カード 基礎モデルの透明性を高めるため。 また、次の XNUMX つの新しい AI サービス カードも発売します。 Amazon Comprehend PII の検出, Amazon Transcribe の毒性検出, Amazon Rekognition の顔のライブネス, AWS ヘルススクライブ。 これらの各カードについては、 AWSのウェブサイト。 生成 AI が成長し、進化し続けるにつれて、テクノロジーがどのように開発、テスト、使用されるかに関する透明性は、組織とその顧客の信頼を得るために不可欠な要素となります。 AWS では、AI サービス カードなどの透明性リソースをより広範なコミュニティに提供し、最善の方法についてのフィードバックを繰り返し収集することに取り組んでいます。

生成 AI ライフサイクル全体にわたる責任ある AI への投資

私たちは、今週の re:Invent で発表された、生成 AI を安全に構築して使用するためのより多くのツール、リソース、組み込みの保護機能をお客様に提供する新しいイノベーションに興奮しています。 モデルの評価からガードレール、ウォーターマークまで、顧客はリスクを軽減しながら、生成型 AI をより迅速に組織に導入できるようになりました。 IP 補償範囲などの顧客向けの新しい保護や、追加の AI サービス カードなどの透明性を高めるための新しいリソースも、テクノロジー企業、政策立案者、コミュニティ グループ、科学者などの間で信頼を構築するという当社の取り組みの重要な例です。 当社は、お客様が安全、安心、かつ責任ある方法で AI を拡張できるよう、基盤モデルのライフサイクル全体にわたって責任ある AI への有意義な投資を継続しています。

---

著者について

ピーター・ハリナン AWS AI で、責任ある AI の専門家チームとともに、責任ある AI の科学と実践におけるイニシアチブをリードしています。 彼は AI (PhD、ハーバード) と起業家精神 (Blindsight、Amazon に売却) に深い専門知識を持っています。 彼のボランティア活動には、スタンフォード大学医学部の顧問教授、マダガスカルのアメリカ商工会議所の会長などがあります。 可能であれば、彼は子供たちと一緒に山に出かけます: スキー、登山、ハイキング、ラフティング

ヴァシフィロミン 現在、AWS のジェネレーティブ AI 担当副社長を務めています。 彼は、Amazon Bedrock、Amazon Titan、Amazon CodeWhisperer などの生成 AI の取り組みを主導しています。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/