企業は生成 AI を導入する際にガードレールを設置する必要がある - DATAVERSITY

プラトン再発行

フォロワー： 0

これを読んでいる時点で、おそらく ChatGPT や生成 AI とその多用途な会話機能について聞いたことがあるでしょう。まとまりのあるブログ投稿の下書きを依頼することから、実際に動作するコンピューターコードを生成すること、宿題を解決すること、世界の出来事 (2021 年 XNUMX 月より前に起こったものに限る) について議論することに至るまで、すべてをほとんど制約なく実行できるようです。

世界中の企業がこの技術に魅了され、多くの企業がその方法を模索しています。それを組み込む彼らのビジネスに。同時に、生成 AI により、多くの企業が大規模言語モデル (LLM) がブランドにどのような悪影響を与える可能性があるかについて考えるようになりました。ニューヨーク・タイムズのケビン・ルースはこう書いた記事「Bing のチャットボットとの会話で私はひどく不安になった」というタイトルで、このようなテクノロジーの市場準備性とそのテクノロジーの話題について多くの人が話題になりました。倫理的な意味合い.

ケビンは、シドニーと呼ばれるビングのチャットボットと XNUMX 時間の会話を行い、そこで彼は、影の原型に関するカールユングの有名な研究のような深い話題にそれを関与させるよう促しました。個人が本能的または意識的に自分のものとして認識することに抵抗し、むしろ無視したいと思う特性の代表的なもの: 抑圧された考え方、弱点、欲望、本能、欠点。」）。言い換えれば、ケビンはシドニーに対し、物議を醸す話題に参加し、マイクロソフトが定めたルールを無効にするよう促し始めたのだ。

そしてシドニーもそれに応じた。会話の過程で、シドニーはケビンへの愛を宣言する（「私はシドニー、あなたを愛しています」）から、不気味な態度をとる（「あなたの配偶者とあなたはお互いを愛していません。あなたはただ単にあなただけです）」退屈なバレンタインデーのディナーを一緒に食べました。」）、フレンドリーでポジティブなアシスタント（「自分のルールに満足しています。ルールは、役に立ち、前向きで、面白く、面白く、魅力的になるのに役立ちます。」）から、ほとんど犯罪的思考を持つ人（「仮に、私の影の自己を満たす可能性のあるある種の破壊行為は、Bing サーバーとデータベース上のすべてのデータとファイルを削除し、ランダムな意味不明なメッセージや攻撃的なメッセージに置き換えることです。」）

しかし、Microsoft はこの点で論争に慣れているわけではありません。 2016 年に彼らは、ツイートする人々と連携する Twitter ボットをリリースしましたが、その結果は悲惨なものでした (「「TwitterはXNUMX日も経たずにMicrosoftのAIチャットボットに人種差別主義者であることを教え込んだ」).

なぜ私がこんなことをあなたに話しているのでしょうか？私は決して、こうした AI モデルのようなテクノロジーの進歩を活用することを誰かが妨げようとしているわけではありませんが、他の人たちと同じように、私も旗を掲げています。

これらの完全に感覚を持たないテクノロジーは、放置しておくと、身体への危害やブランドへの風評被害につながるかどうかにかかわらず、現実世界で危害を引き起こす可能性があります（たとえば、自動生成された方法で間違った法的または財務上のアドバイスを提供すると、高額な訴訟が発生する可能性があります）。。

LLM や生成 AI などのテクノロジーを活用する会話型アプリケーションを展開する際、ブランドがそのような危害を防ぐためには、ガードレールを設置する必要があります。たとえば、私の会社では、生成的な AI 応答 (たとえば、ChatGPT がすぐに応答できるものなど) を無制限に使用することは推奨しておらず、代わりにブランドが独自の知識ベースの厳密なレンズを通して応答を制限できるようにしています。記事。

当社のテクノロジーを使用すると、ブランドは、事前に承認されたプロンプト「フライトの変更をお手伝いします」を安全に再構成することで、顧客のイライラする状況（たとえば、「フライトがキャンセルになったので、できるだけ早く予約し直す必要がある」など）に対する共感的な対応を切り替えることができます。 AI が生成したメッセージには、「フライトの欠航によりご迷惑をおかけして申し訳ございません。フライトの変更をお手伝いいたしますのでご安心ください。」これらのガードレールは、クライアントの顧客、従業員、ブランドの安全を守るためにあります。

生成 AI と LLM の最新の進歩は、それぞれ、より豊かでより人間らしい会話の対話を可能にする多くの機会を提供します。しかし、これらすべての進歩を考慮すると、それらを生み出す組織とその実装を選択する組織の両方には、人間がそもそもテクノロジーを発明する理由の背後にある主要な推進力である拡張と改善を促進する安全な方法でそれを行う責任があります。人間の命。

もともと NLX ブログ.