AI開発は「まったく無謀」であると米国の学者が主張

フォロワー： 0

ある米国の学者によると、AIシステムは「まったく無謀な」開発ペースが続いており、社会に存続の脅威をもたらしているという。

このコメントは、23人の上級専門家が執筆した警告を発する新しい報告書の発表と同時に行われた。火曜日に発表された報告書「急速な進歩の時代におけるAIリスクの管理」は、不正義の増大、社会的安定の浸食、現実認識の終わりについて警告している。

大きなリスク

のグループ AI この分野のXNUMX人の「ゴッドファーザー」を含む専門家が、テクノロジーの危険性について警告する新たな報告書の背後にいる。

カリフォルニア大学バークレー校のコンピューターサイエンス教授であるスチュアート・ラッセル氏も、この文書を共同執筆した専門家の一人だ。

「先進的なAIシステムに真剣に取り組む時期が来た」とラッセル氏は語った。 保護者 on 火曜日。「これらはおもちゃではありません。私たちが彼らを安全にする方法を理解する前に、彼らの能力を高めることはまったく無謀です。サンドイッチ店に対する規制は、AI企業に対する規制よりも多いのです。」

この文書の他の共著者は、「AI のゴッドファーザー」 2018 人のうちの XNUMX 人とみなされているジェフリー・ヒントンとヨシュア・ベンジオです。 XNUMX 年、彼らはこのテーマに関する研究で ACM チューリング賞を受賞しました。

　レポートこの論文は、人工知能が進歩し続けるにつれて潜在的な落とし穴を数多く挙げており、憂慮すべき内容となっている。著者らによって提起された懸念の XNUMX つは、このテクノロジーのほぼ無限の可能性であり、それは私たちの理解を超えて発展する可能性さえあるということです。

「AIの進歩が人間レベルで減速したり停止したりする根本的な理由はない」と報告書は述べている。

著者らは、タンパク質のフォールディングや戦略ゲームなどの狭い領域では、 AI すでに人間を超えています。報告書は続けて、「ジェネラリストAIシステムが、このXNUMX年か次のXNUMX年以内に多くの重要な領域において人間の能力を上回る可能性を真剣に受け止める必要がある」と付け加えている。

現在、AI システムの自律性は限られていますが、それを変える取り組みが進行中です。一部の AI システムは、自ら構築してプログラムするところまで行っており、AI が構築される可能性があります。 AI.

これらのシステムは、人間が予期できない目標を追求する可能性があります。

報告書には「悪意のある者によって埋め込まれた、または偶然によって自律型 AI システムが望ましくない目標を追求すると、私たちはそれらを抑制できなくなる可能性があります。」と述べられています。

「高度な自律型 AI システムは、前例のない制御の課題を引き起こすでしょう」と著者らは付け加えました。「十分な注意がなければ、自律型 AI システムの制御を不可逆的に失い、人間の介入が無効になる可能性があります。」

この報告書は、AI リーダーが来月ブレッチリー・パークで会合を準備する中で発表された。

英国政府の報道官は、今回の会談は「AIが大きなチャンスをもたらすという認識は共有するが、適切なガードレールを確実に設置する必要があると認識している志を同じくする国々」のためのものだと述べた。

英国のリシ・スナック首相は、「英国はAIに関して非常に強いため、この問題に関する議論を主導し形成するのに適した立場にある」と述べた。

批評家らは、英国が大手ハイテク企業や国際政府に真の影響力を及ぼすのに必要な政治資本を持っているかどうかを疑問視している。

イタリアのジョルジア・メローニ首相は、G7のリーダーの中でスナク氏の招待に応じたと確認されている唯一の人物だが、カナダのジャスティン・トルドー首相、ドイツのオラフ・ショルツ首相、米国のジョー・バイデン大統領はすでに弁明している。

タイムスタンプ： 2023 年 10 月 25 日

タイムスタンプ： 2023 年 10 月 6 日