OpenAI、選挙および有権者抑圧での使用を排除

選挙における誤った情報と闘うための断固とした動きとして、OpenAI は次のことを宣言しました。 厳格な姿勢 選挙キャンペーンや有権者抑圧戦術に自社の生成AIツールを使用することに反対している。

2024 年の世界選挙に向けて私たちがどのように準備しているかを示すスナップショット:

• 誤解を招くディープフェイクを含む悪用の防止に努める
• AI によって生成されたコンテンツの透明性の提供
• 権威ある投票情報へのアクセスの改善https://t.co/qsysYy5l0L

- OpenAI（@OpenAI） 2024 年 1 月 15 日

この発表は、2024 年に予定されている多数の重要な選挙の完全性を確保するための重要なステップとして行われます。

また、お読みください。 OpenAI、ニュースコンテンツのライセンスについてCNN、Fox、Timeと交渉

イノベーションとポリシーで悪用と闘う

OpenAI は、自社のテクノロジーが選挙結果の操作に悪用されるのを防ぐ戦略を開始しました。同社は、法務、エンジニアリング、政策などのさまざまな部門の専門知識を統合し、選挙関連の懸念に焦点を当てた専門チームを設立しました。このチームの主な目的は、選挙における AI の潜在的な悪用を特定し、軽減することです。

「私たちは、安全システム、脅威インテリジェンス、法務、エンジニアリング、政策チームの専門知識を結集して、選挙業務に特化した部門横断的な取り組みを行っています。」

政治における誤った情報の脅威は新しいものではありませんが、AI テクノロジーの出現は前例のない課題をもたらしています。これを認識し、OpenAI は積極的な対策を講じています。同社は、レッドチーム、ユーザーエンゲージメント、安全ガードレールなどの技術を組み合わせて採用する予定です。具体的に彼らのイメージとしては、 生成ツールDALL-E、 政治的候補者を含む現実の人物を描いた画像の作成を防止するために更新されました。

「DALL・E には、候補者を含む実際の人物の画像生成を求めるリクエストを拒否するためのガードレールがあります。」

OpenAI は、AI テクノロジーの進化する状況とその潜在的な悪用に歩調を合わせるために、ユーザー ポリシーを継続的に改訂しています。更新された安全ポリシーでは、政治運動やロビー活動を目的とした AI アプリケーションの開発が明確に制限されています。さらに、実際の人物や組織を模倣したチャットボットの作成を防止するための対策も講じられています。

透明性と説明責任の強化

OpenAI の戦略の重要な要素は、DALL-E ツールの出自分類器の導入です。現在ベータテスト中のこの機能は、DALL-E によって生成された画像を検出できます。同社は、ジャーナリスト、プラットフォーム、研究者がこのツールを利用できるようにして、AI によって生成されたコンテンツの透明性を高めることを目指しています。

「私たちは間もなく、ジャーナリスト、プラットフォーム、研究者を含む最初のテスター グループがフィードバックを得ることができるようにする予定です。」

OpenAI は、リアルタイムのニュースレポートも統合しています。 AI言語モデルを活用してコードのデバッグからデータの異常検出まで、。この統合は、ユーザーに正確かつタイムリーな情報を提供し、AI によって提供される情報ソースの透明性を高めることを目的としています。

OpenAI は、米国の全米国務長官協会との共同の取り組みで、自社のテクノロジーが選挙への参加を妨げないようにすることに重点を置いています。このチームワークには、GPT を利用したチャットボット ユーザーを CanIVote.org などの信頼できる投票情報 Web サイトに誘導することが含まれます。

AI競争ではライバルも追随

OpenAI の発表は、AI 業界で先例となり、次のようなライバルが存在します。 Google LLC Meta Platforms Inc.も、自社のテクノロジーを通じて拡散する誤った情報と戦うための対策を実施しています。業界リーダーによるこの共同の取り組みは、民主的プロセスに対する AI の潜在的な影響に対する認識と責任が高まっていることを意味しています。

しかし、これで十分でしょうか？ Pund-IT Inc. の Charles King 氏は、これらの措置が時宜を得たものなのか、それとも事後対応的なものなのかを疑問視し、重要な論点を提起しています。同氏は、AIが生み出す誤った情報に対する懸念は何年も前から存在しており、OpenAIの最近の発表は少なすぎる、遅すぎるとみなされる可能性があると主張する。この視点は、政治情勢における AI 開発者の役割と責任についてのより深い考察を引き起こします。

「したがって、この発表は、せいぜい、OpenAI がスイッチでスリープ状態だったことを示唆しています。しかし、最悪の場合、これは今年の世界選挙中に生成 AI がファンに影響を与えるときに OpenAI が指摘できる手洗いの儀式に似ています。」

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://metanews.com/openai-rules-out-use-in-elections-and-voter-suppression/