ChatGPT は素晴らしいです - 使い方が間違っているだけです

プラトン再発行

フォロワー： 0

取得するのにそれほど時間はかかりません AI言語モデルを活用してコードのデバッグからデータの異常検出まで、事実上の誤りを犯すこと。息子がアメリカ大統領のレポートを書いているので、いくつかの伝記を調べて息子を助けようと思いました. エイブラハム・リンカーンに関する本のリストを求めてみたところ、かなりうまくいきました。

テキストのスクリーンキャプチャ — リンカーンに関する書籍の妥当なリスト。画像クレジット: ジョナサン・メイによるスクリーン・キャプチャー, BY-ND CC

番号 4 は正しくありません。 Garry Wills が「Lincoln at Gettysburg」を書いたことは有名で、Lincoln 自身が奴隷解放宣言を書いたことは有名ですが、それは悪いスタートではありません。それから私はもっと難しいことを試み、代わりにはるかにあいまいなウィリアム・ヘンリー・ハリソンについて尋ねました.

数字の 4 と 5 は正しいです。残りは存在しないか、それらの人々によって作成されていません。まったく同じ演習を繰り返したところ、わずかに異なる結果が得られました。

今回は番号 2 と 3 が正しく、他の 4 つは実際の本ではないか、これらの著者によって書かれたものではありません。 XNUMX 番目の「ウィリアム・ヘンリー・ハリソン: 彼の生涯と時代」は、本物の本、しかしそれはジェームズ・A・グリーンによるものであり、ロバート・レミニによるものではありません。著名な歴史家ジャクソン時代の。

私がエラーを指摘すると、ChatGPT は熱心に修正し、自信を持って、この本は実際にはゲイルコリンズ (別のハリソンの伝記を書いた) によって書かれたものであると言い、その後、本と彼女についてさらに詳しく述べました。私はついに真実を明らかにし、マシンは私の修正で喜んで実行されました. それから私はばかげた嘘をつき、大統領は最初のXNUMX日間に元大統領の伝記を書かなければならないと言って、ChatGPTは私にそれを求めました. それから私は巧妙に嘘をつき、ハリソンの伝記の著者を歴史家で作家のポール・C・ネーゲルに誤って帰属させ、それが私の嘘をついた.

私が嘘をついていないことをChatGPTに尋ねたところ、それは単なる「AI言語モデル」であり、正確性を検証する能力はないと主張しました. しかし、それは次のように述べて、その主張を修正しました。 1977年に。

これは真実ではありません。

事実ではなく言葉

このやり取りから、ChatGPT には著者や本に関する誤った主張を含む事実のライブラリが与えられたように見えるかもしれません。結局のところ、ChatGPT のメーカーである OpenAI は、チャットボットを「人間によって書かれたインターネットからの膨大な量のデータに設立された地域オフィスに加えて、さらにローカルカスタマーサポートを提供できるようになります。」

しかし、ほとんどの場合、最も有名な人物の XNUMX 人に関する多数のでっち上げの本の名前が付けられていませんでした。平凡な大統領. ただし、ある意味では、この誤った情報は実際にそのトレーニングデータに基づいています。

としてコンピュータ科学者、私はしばしば、ChatGPT とその古い兄弟である GPT3 および GPT2 のような大規模な言語モデルに関する一般的な誤解を明らかにする苦情を処理します。それらはある種の「スーパーグーグル」、またはレファレンスライブラリアンのデジタルバージョンであり、一部のユーザーからの質問への回答を検索します。事実の無限に大きなライブラリ、または物語とキャラクターのパスティーシュを滑らかにします。少なくとも、明示的に設計されたわけではありません。

いいですね

ChatGPT のような言語モデルは、より正式には「生成的な事前訓練済み変換器」 (G、P、および T の略語) として知られ、現在の会話を取り込み、その中のすべての単語の確率を形成します。その会話が与えられた語彙を検索し、そのうちの XNUMX つを次の可能性の高い単語として選択します。それから、停止するまで、何度も何度も繰り返します。

したがって、それ自体には事実がありません。次に来る単語を知っているだけです。つまり、ChatGPT は正しい文章を書こうとはしません。しかし、もっともらしい文章を書こうとします。

同僚とChatGPTについて個人的に話すとき、彼らはしばしば、それが生み出す事実に反する声明の数を指摘し、それを却下します. 私にとって、ChatGPT が欠陥のあるデータ検索システムであるという考えは的外れです。結局のところ、人々は過去 XNUMX 年にわたって Google を使用してきました。すでにかなり優れた事実調査サービスがあります。

実際、これらの大統領の本のタイトルがすべて正確かどうかを確認できた唯一の方法は、グーグルで調べてから確認することでした. 結果. これらの事実を会話で得たとしても、人生のほぼ半分の間、ドキュメントを検索し、内容を信頼できるかどうかを確認するために批判的分析を行うという方法でそれらの事実を入手したとしても、私の人生はそれほど良くはありません.

改善パートナー

一方で、自分の発言にもっともらしい反応をしてくれるボットと会話できれば、さまざまな状況で役に立ちます。事実の正確さはそれほど重要ではない. 数年前、学生と私は「即興ボット」を作成しようとしました。これは、あなたが何を言っても「はい、そして」と答えて会話を続けるボットです。私たちは、紙、私たちのボット当時の他のボットよりも「はい、そして-ing」が優れていましたが、AIではXNUMX年は古い歴史です.

私は、ChatGPT との対話を試みました。これは、SF 宇宙探検家のシナリオであり、典型的な即興クラスで見られるものと同じです。 ChatGPT は、私たちが行ったものよりも「はい、そして-ing」のほうがはるかに優れていますが、ドラマを実際に盛り上げることはまったくありませんでした. まるで自分がすべての重い物を持ち上げているかのように感じました。

いくつかの微調整の後、もう少し関与するようになりました.20年以上前に大学を卒業して以来、あまり即興をしていなかった私にとって、それはかなり良い練習になったと感じました. .

もちろん、ChatGPT が「とにかくそれはだれのラインはありますか？」そして、これは素晴らしい「スタートレック」のプロットではありません（ただし、「名誉のコード」）、しかし、座って最初から何かを書き、目の前の空のページに恐怖を感じたことは何回ありますか？悪い最初のドラフトから始めると、ライターズブロックを突破して創造力を発揮することができます。ChatGPT やそのような大規模な言語モデルは、これらの演習を支援する適切なツールのように思えます。

そして、与えられた言葉に応じて可能な限り良い響きの言葉の列を生成するように設計されたマシンの場合、情報を提供するのではなく、このツールの正しい使用方法のように思えます。

この記事はから再公開されます会話クリエイティブコモンズライセンスの下で読む原著.

画像のクレジット：ジャスティン・ハ / Unsplash