生成 AI の急速な成長は、有望な新しいイノベーションをもたらすと同時に、新たな課題も引き起こします。 これらの課題には、バイアスや説明可能性など、生成 AI が登場する前によく見られたいくつかの課題が含まれます。 ファウンデーションモデルならではの新機能 (FM)、幻覚や毒性を含む。 AWS では、次のことに取り組んでいます。 責任を持って生成型 AI を開発し、 教育、科学、顧客を優先する人間中心のアプローチを採用し、エンドツーエンドの AI ライフサイクル全体にわたって責任ある AI を統合します。
過去 XNUMX 年間、私たちは生成 AI アプリケーションとモデルに、組み込みのセキュリティ スキャンなどの新機能を導入してきました。 アマゾン コード ウィスパラー、有害なコンテンツを検出してブロックするためのトレーニング アマゾンタイタン、およびデータプライバシー保護 アマゾンの岩盤。 安全、透明、責任ある生成型 AI への当社の投資には、世界のコミュニティや政策立案者との協力が含まれており、 ホワイトハウスの自主的な AI への取り組み および AIセーフティサミット イギリスで。 そして、私たちはお客様と協力して、次のような専用ツールを使用して責任ある AI を運用し続けます。 Amazon SageMaker の明確化, Amazon SageMaker による ML ガバナンス、 もっと。
新しい責任ある AI イノベーションの導入
生成型 AI が新しい業界、組織、ユースケースに拡張されるにつれて、この成長には責任ある FM 開発への継続的な投資が伴う必要があります。 顧客は、責任を持って AI を導入できるように、安全性、公平性、セキュリティを念頭に置いて FM が構築されることを望んでいます。 今年の AWS re:Invent では、新しい組み込みツール、顧客保護、透明性を高めるためのリソース、偽情報と戦うためのツールを備えた幅広い機能セットにわたって、責任ある生成型 AI イノベーションを促進する新機能を発表できることを嬉しく思います。 当社は、毒性や堅牢性などの責任ある AI の重要な考慮事項に照らして FM を評価するために必要な情報を顧客に提供し、顧客のユースケースと責任ある AI ポリシーに基づいて安全対策を適用するためのガードレールを導入することを目指しています。 同時に、お客様は、自社の組織内で AI サービスと FM を使用する際に、その安全性、公平性、セキュリティ、およびその他の特性についてより詳しい情報を知りたいと考えています。 お客様が当社の AWS AI サービスをより深く理解し、求めている透明性を提供できるよう、さらに多くのリソースを発表できることを嬉しく思います。
セーフガードの実装: Amazon Bedrock のガードレール
生成 AI を大規模に導入する場合、安全性が最優先されます。 組織は、有害な言葉や不快な言葉を避け、会社のポリシーに沿った生成 AI アプリケーションと顧客との間の安全な対話を促進したいと考えています。 そのための最も簡単な方法は、組織全体にわたって一貫した保護措置を講じて、全員が安全にイノベーションを行えるようにすることです。 昨日、プレビューを発表しました Amazon Bedrock のガードレール—顧客のユースケースと責任ある AI ポリシーに基づいて、アプリケーション固有の保護手段を簡単に実装できる新機能です。
ガードレールは、Amazon Bedrock の FM がアプリケーション内の望ましくない有害なコンテンツに対応する方法の一貫性を促進します。 お客様は、Amazon Bedrock 上の大規模な言語モデルだけでなく、微調整されたモデルにもガードレールを適用でき、 Amazon Bedrock のエージェント。 ガードレールを使用すると、回避するトピックを指定でき、サービスは制限されたカテゴリに分類されるクエリと応答を自動的に検出して防止します。 また、ヘイトスピーチ、侮辱、性的表現、暴力などのカテゴリ全体にコンテンツ フィルターのしきい値を設定して、有害なコンテンツを必要なレベルまで除外することもできます。 たとえば、オンライン バンキング アプリケーションは、投資アドバイスの提供を回避し、不適切なコンテンツ (ヘイトスピーチ、侮辱、暴力など) を制限するように設定できます。 近い将来、顧客はユーザー入力や FM の応答に含まれる個人を特定できる情報 (PII) を編集したり、冒涜的なフィルターを設定したり、ユーザーと FM 間のやり取りをブロックするカスタム単語のリストを提供したりすることもできるようになり、コンプライアンスが向上し、さらにユーザーを保護します。 Guardrails を使用すると、企業ポリシーと一致した保護と安全対策を維持しながら、生成 AI を使用してより迅速にイノベーションを起こすことができます。
特定のユースケースに最適な FM の特定: Amazon Bedrock でのモデル評価
現在、組織には生成 AI アプリケーションを強化するための幅広い FM オプションがあります。 ユースケースに合わせて精度とパフォーマンスの適切なバランスをとるために、組織はモデルを効率的に比較し、重要な責任ある AI と品質指標に基づいて最適なオプションを見つける必要があります。 モデルを評価するには、組織はまずベンチマークの特定、評価ツールのセットアップ、評価の実行に数日を費やす必要がありますが、これらすべてにデータ サイエンスに関する深い専門知識が必要です。 さらに、これらのテストは、退屈で時間のかかる人間によるレビューのワークフローによる判断を必要とする主観的な基準 (ブランドの声、関連性、スタイルなど) を評価するのには役に立ちません。 新しいユースケースごとにこれらの評価に必要な時間、専門知識、リソースにより、組織が責任ある AI の側面に照らしてモデルを評価し、顧客に最も正確で安全なエクスペリエンスを提供するモデルについて情報に基づいた選択を行うことが困難になります。
現在プレビューで利用可能です。 Amazon Bedrock でのモデルの評価 自動評価または人間による評価を使用して、顧客が精度や安全性などのカスタム指標に基づいて特定のユースケースに最適な FM を評価、比較、選択できるようにします。 Amazon Bedrock コンソールで、顧客は質問応答やコンテンツ要約などの特定のタスクについて比較する FM を選択します。 自動評価の場合、顧客は事前定義された評価基準 (精度、堅牢性、毒性など) を選択し、独自のテスト データセットをアップロードするか、組み込みの公的に利用可能なデータセットから選択します。 主観的な基準や判断が必要な微妙なコンテンツの場合、顧客は数回クリックするだけで人間ベースの評価ワークフローを簡単に設定できます。 これらのワークフローは、顧客の社内ワークチーム、または AWS が提供する管理された労働力を利用して、モデルの応答を評価します。 人間ベースの評価中に、顧客はユースケース固有の指標 (関連性、スタイル、ブランドの声など) を定義します。 お客様がセットアッププロセスを完了すると、Amazon Bedrock が評価を実行してレポートを生成するため、お客様は主要な安全性と精度の基準においてモデルがどのように機能したかを簡単に理解し、ユースケースに最適なモデルを選択できます。
このモデルを評価する機能は Amazon Bedrock に限定されません。顧客は Amazon SageMaker Clear のモデル評価を使用して、精度、堅牢性、毒性などの主要な品質と責任の指標全体にわたって最適な FM オプションを簡単に評価、比較、選択することもできます。すべてのFM。
偽情報との戦い: Amazon Titan のウォーターマーク
本日、発表しました Amazon Titan 画像ジェネレーター これにより、お客様は高品質の画像を大規模に迅速に作成および強化できるようになります。 私たちは、トレーニング データの選択、不適切なユーザー入力とモデル出力を検出して削除するフィルタリング機能の構築、モデル出力の人口統計的多様性の改善など、モデル開発プロセスの各段階で責任ある AI について検討しました。 Amazon Titan が生成したすべての画像には、デフォルトで目に見えないウォーターマークが含まれています。これは、AI が生成した画像を識別するための慎重なメカニズムを提供することで、偽情報の拡散を減らすように設計されています。 AWS は、画像出力に統合され、改ざんされにくいように設計された組み込みの目に見えないウォーターマークを広くリリースした最初のモデルプロバイダーの XNUMX つです。
信頼の構築: 補償付きで当社のモデルとアプリケーションを支持します
顧客の信頼を築くことは AWS の中核です。 当社は創業以来、お客様とともに歩んできました。生成 AI の成長に伴い、革新的なテクノロジーを一緒に構築することに引き続き取り組んでいます。 お客様が当社の生成 AI の力を活用できるようにするには、自分たちが保護されていることを認識する必要があります。 AWS は、次の Amazon 生成 AI サービスの出力に対して著作権補償を提供します: Amazon Titan Text Express、Amazon Titan Text Lite、Amazon Titan Embeddings、Amazon Titan Multimodal Embeddings、Amazon CodeWhisperer Professional、 AWS ヘルススクライブ, Amazon Lex, Amazonパーソナライズ。 これは、責任を持ってサービスを使用する顧客が、それらのサービスによって生成された出力による著作権侵害を主張する第三者の申し立てから保護されることを意味します (本書のセクション 50.10 を参照)。 Service Terms)。 さらに、サービスの使用に対する当社の標準 IP 補償は、サービスおよびサービスのトレーニングに使用されたデータによる IP 侵害を主張する第三者の申し立てから顧客を保護します。 別の言い方をすると、上記の Amazon 生成 AI サービスを使用していて、誰かが IP 侵害であなたを訴えた場合、AWS はその訴訟を弁護します。これには、あなたに対する判決や和解費用の負担も含まれます。
私たちは生成 AI サービスを支持し、継続的な改善に取り組んでいます。 AWS が新しいサービスを開始し、生成 AI が進化し続ける中、AWS は今後も顧客の信頼の獲得と維持に絶え間なく注力していきます。
透明性の強化: Amazon Titan テキスト用の AWS AI サービスカード
We AWS AIサービスカードを導入 re:Invent 2022 では、お客様が AWS AI サービスをよりよく理解できるようにするための透明性リソースとして提供されています。 AI サービス カードは、責任ある AI ドキュメントの形式であり、意図されたユースケースと制限、責任ある AI 設計の選択、AI サービスの展開とパフォーマンスの最適化のベスト プラクティスに関する情報を XNUMX か所で見つけることができる場所をお客様に提供します。 これらは、公平性、説明可能性、真実性と堅牢性、ガバナンス、透明性、プライバシーとセキュリティ、安全性、制御可能性に対処する責任ある方法でサービスを構築するために当社が取り組む包括的な開発プロセスの一部です。
今年の re:Invent では、 Amazon Titan Text 用の新しい AI サービス カード 基礎モデルの透明性を高めるため。 また、次の XNUMX つの新しい AI サービス カードも発売します。 Amazon Comprehend PII の検出, Amazon Transcribe の毒性検出, Amazon Rekognition の顔のライブネス, AWS ヘルススクライブ。 これらの各カードについては、 AWSのウェブサイト。 生成 AI が成長し、進化し続けるにつれて、テクノロジーがどのように開発、テスト、使用されるかに関する透明性は、組織とその顧客の信頼を得るために不可欠な要素となります。 AWS では、AI サービス カードなどの透明性リソースをより広範なコミュニティに提供し、最善の方法についてのフィードバックを繰り返し収集することに取り組んでいます。
生成 AI ライフサイクル全体にわたる責任ある AI への投資
私たちは、今週の re:Invent で発表された、生成 AI を安全に構築して使用するためのより多くのツール、リソース、組み込みの保護機能をお客様に提供する新しいイノベーションに興奮しています。 モデルの評価からガードレール、ウォーターマークまで、顧客はリスクを軽減しながら、生成型 AI をより迅速に組織に導入できるようになりました。 IP 補償範囲などの顧客向けの新しい保護や、追加の AI サービス カードなどの透明性を高めるための新しいリソースも、テクノロジー企業、政策立案者、コミュニティ グループ、科学者などの間で信頼を構築するという当社の取り組みの重要な例です。 当社は、お客様が安全、安心、かつ責任ある方法で AI を拡張できるよう、基盤モデルのライフサイクル全体にわたって責任ある AI への有意義な投資を継続しています。
著者について
ピーター・ハリナン AWS AI で、責任ある AI の専門家チームとともに、責任ある AI の科学と実践におけるイニシアチブをリードしています。 彼は AI (PhD、ハーバード) と起業家精神 (Blindsight、Amazon に売却) に深い専門知識を持っています。 彼のボランティア活動には、スタンフォード大学医学部の顧問教授、マダガスカルのアメリカ商工会議所の会長などがあります。 可能であれば、彼は子供たちと一緒に山に出かけます: スキー、登山、ハイキング、ラフティング
ヴァシフィロミン 現在、AWS のジェネレーティブ AI 担当副社長を務めています。 彼は、Amazon Bedrock、Amazon Titan、Amazon CodeWhisperer などの生成 AI の取り組みを主導しています。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/
- :持っている
- :は
- :not
- $UP
- 10
- 100
- 125
- 2022
- 50
- a
- 能力
- できる
- 私たちについて
- 上記の.
- 付随する
- 精度
- 正確な
- 越えて
- 活動
- 添加
- NEW
- アドレス
- アドバイス
- に対して
- AI
- AIサービス
- 目指す
- 整列する
- 同様に
- すべて
- 並んで
- また
- Amazon
- アマゾン コード ウィスパラー
- アマゾンセージメーカー
- Amazon Webサービス
- アメリカ
- 間で
- an
- および
- アナウンス
- 発表の
- 発表
- 別の
- どれか
- 申し込み
- 申し込む
- アプローチ
- です
- 周りに
- AS
- 質問
- アセスメント
- At
- オートマチック
- 自動的に
- 利用できます
- 避ける
- 避ける
- AWS
- AWS re:Invent
- バンキング
- ベース
- BE
- き
- 背後に
- ベンチマーク
- BEST
- ベストプラクティス
- より良いです
- の間に
- バイアス
- ブロック
- 両言語で
- ブランド
- 持って来る
- もたらす
- 広い
- より広い
- ビルド
- 信頼を築く
- 建物
- 内蔵
- 内蔵
- by
- 缶
- 機能
- 機能
- カード
- カード
- 場合
- 例
- カテゴリ
- 課題
- 室
- 子供達
- 選択
- 選択肢
- 選択する
- クレーム
- クライミング
- 環境、テクノロジーを推奨
- 戦闘
- 組み合わせ
- comes
- 貿易
- コミットメント
- コミットした
- コマンドと
- コミュニティ
- 企業
- 会社
- 比較します
- コンプライアンス
- コンポーネント
- 理解する
- 包括的な
- 検討事項
- 見なさ
- 整合性のある
- 領事
- コンサルティング
- 含む
- コンテンツ
- 継続的に
- 続ける
- 続ける
- 連続
- 著作権
- 著作権侵害
- 基本
- コスト
- カバレッジ
- カバーする
- 基準
- 現在
- カスタム
- 顧客
- Customers
- データ
- データプライバシー
- データサイエンス
- データセット
- 日
- 深いです
- 深い専門知識
- デフォルト
- 定義します
- 配信する
- 人口動態
- 展開します
- 展開
- 設計
- 設計
- 希望
- 検出
- 発展した
- 開発
- 難しい
- 大きさ
- 虚偽情報
- 多様性
- do
- ドキュメント
- ドライブ
- 間に
- e
- 各
- 稼ぐ
- 収益
- 最も簡単
- 簡単に
- 簡単に
- 教育
- 効率良く
- 努力
- どちら
- 力を与える
- enable
- 奨励
- 端から端まで
- 高めます
- 全体
- 起業家精神
- エーテル(ETH)
- 評価する
- 評価します
- 評価
- 評価
- あらゆる
- 誰も
- 進化
- 例
- 例
- 興奮した
- 体験
- 専門知識
- 専門家
- 説明可能
- 探る
- 表現します
- 顔
- 公平
- 秋
- 速いです
- フィードバック
- 少数の
- filter
- フィルタリング
- フィルター
- もう完成させ、ワークスペースに掲示しましたか?
- 仕上げ
- 名
- フォーカス
- フォロー中
- フォーム
- フォワード
- 育てる
- Foundation
- 4
- から
- さらに
- さらに
- 未来
- 集める
- 生成された
- 生成
- 生々しい
- 生成AI
- 与えられた
- 与える
- グローバル
- ガバナンス
- グループの
- 成長する
- 成長性
- 有害な
- ハーネス
- ハーバード
- 嫌い
- ヘイト·スピーチ
- 持ってる
- he
- 助けます
- ことができます
- 高品質
- ハイキング
- 彼の
- お家の掃除
- 認定条件
- HTTPS
- 人間
- 識別する
- 識別
- if
- 画像
- 画像
- 実装する
- 重要
- 改善します
- 改善
- in
- 開始
- include
- 含まれました
- 含ま
- 含めて
- 増える
- 産業
- 情報
- 情報に基づく
- 侵害
- イニシアチブ
- 革新します
- 革新的手法
- イノベーション
- 革新的な
- 革新的な技術
- 入力
- 統合する
- 統合された
- 意図された
- 相互作用
- に
- 紹介する
- 導入
- 導入
- 投資
- インベストメント
- 目に見えない
- IP
- IT
- 旅
- JPG
- ただ
- キー
- 知っている
- 言語
- 大
- 起動
- 発射
- 訴訟
- リード
- ことができます
- レベル
- 活用します
- wifecycwe
- ような
- LIMIT
- 制限
- 限定的
- リスト
- リストされた
- 保守
- make
- 作る
- マネージド
- 意味のある
- 手段
- メカニズム
- 薬
- メトリック
- マインド
- 緩和する
- モデル
- 他には?
- 最も
- しなければなりません
- 近く
- 必要
- 新作
- 今
- of
- オフ
- 攻撃
- オファー
- on
- かつて
- もの
- オンライン
- オンラインバンキング
- 最適化
- オプション
- オプション
- or
- 組織
- 組織
- その他
- 私たちの
- でる
- outputs
- 自分の
- 部
- 過去
- パフォーマンス
- 実行
- 個人的に
- 博士号
- 敬虔な
- 場所
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- ポリシー
- 政策立案
- 可能
- 電力
- 練習
- プラクティス
- 社長
- を防止
- プレビュー
- 優先する
- 優先順位
- プライバシー
- プライバシーとセキュリティ
- プロセス
- 作り出す
- 冒涜
- プロ
- 東京大学大学院海洋学研究室教授
- 有望
- 推進する
- プロパティ
- 保護された
- 保護
- 保護
- 提供します
- 提供
- プロバイダ
- 提供
- 公然と
- 置きます
- 品質
- クエリ
- 提起
- 範囲
- 急速な
- 急速に
- RE
- 減らします
- リリース
- 関連性
- 残る
- 削除します
- レポート
- の提出が必要です
- 必要
- 耐性
- リソースを追加する。
- リソース
- 反応します
- 回答
- 責任
- 責任
- 責任をもって
- 制限されました
- 右
- リスク
- 丈夫
- ランニング
- runs
- 安全な
- 保障措置
- 安全に
- 安全性
- セージメーカー
- 同じ
- 規模
- スケールai
- 秤
- スキャニング
- 学校
- 科学
- 科学者たち
- セクション
- 安全に
- セキュリティ
- select
- 選択
- サービス
- サービス
- サービング
- セッションに
- 設定
- 決済
- から
- So
- 売ら
- 一部
- 誰か
- 特定の
- スピーチ
- 過ごす
- 広がる
- ステージ
- スタンド
- 標準
- スタンディング
- スタンフォード
- スタンフォード大学
- ストライキ
- そのような
- 手掛かり
- サポート
- 持続する
- 取得
- 仕事
- チーム
- テクノロジー
- テクノロジー企業
- テスト
- テスト
- テスト
- 클라우드 기반 AI/ML및 고성능 컴퓨팅을 통한 디지털 트윈의 기초 – Edward Hsu, Rescale CPO 많은 엔지니어링 중심 기업에게 클라우드는 R&D디지털 전환의 첫 단계일 뿐입니다. 클라우드 자원을 활용해 엔지니어링 팀의 제약을 해결하는 단계를 넘어, 시뮬레이션 운영을 통합하고 최적화하며, 궁극적으로는 모델 기반의 협업과 의사 결정을 지원하여 신제품을 결정할 때 데이터 기반 엔지니어링을 적용하고자 합니다. Rescale은 이러한 혁신을 돕기 위해 컴퓨팅 추천 엔진, 통합 데이터 패브릭, 메타데이터 관리 등을 개발하고 있습니다. 이번 자리를 빌려 비즈니스 경쟁력 제고를 위한 디지털 트윈 및 디지털 스레드 전략 개발 방법에 대한 인사이트를 나누고자 합니다.
- それ
- 情報
- 英国
- アプリ環境に合わせて
- それら
- ボーマン
- 彼ら
- サードパーティ
- この
- 今週
- 今年
- それらの
- 介して
- 時間
- タイタン
- 〜へ
- 一緒に
- 豊富なツール群
- トピック
- トレーニング
- トレーニング
- 透明性
- トランスペアレント
- 信頼
- 順番
- Uk
- わかる
- 引き受ける
- ユニーク
- 大学
- つかいます
- 使用事例
- 中古
- ユーザー
- users
- 極めて重要な
- ボイス
- 自発的
- name
- vp
- 欲しいです
- 透かし
- 電子透かし
- 透かし
- 仕方..
- 方法
- we
- ウェブ
- Webサービス
- ウェブサイト
- 週間
- WELL
- した
- この試験は
- いつ
- which
- while
- 誰
- 全体
- ワイド
- 広い範囲
- 広く
- 意志
- 以内
- 言葉
- 仕事
- ワークフロー
- 労働人口
- 年
- 昨日
- 貴社
- ゼファーネット