OpenAI は、テキストの一節が AI によって生成されたのか、人間によって書かれたのかを予測するように設計された無料のオンライン ツールをリリースしました。
「AI Text Classifier」と呼ばれるこのソフトウェアは、言語モデルを利用しており、テキストのチャンクが AI モデルによって生成された可能性を、「非常にありそうもない」から「不明」、「可能性が高い」までの XNUMX 段階で評価します。 」 私たちは XNUMX 年ほど前のいくつかの記事でそれを試しましたが、一部のハゲタカは、そのコピーが「AI によって生成されたものかどうか不明」と評価されたことを知って腹を立てるかもしれません。
火曜日に発表されたこのツールは、スタートアップの数か月後にデビューしました 打ち上げ ChatGPT は、質問に答える、冗談を言う、詩を書くなど、指示されると自動的にテキストを生成するチャットボットです。 事実上、OpenAI はおしゃべりストリーミング ボットの台頭に拍車をかけ、今ではこの種のものを検出する中途半端なツールを提供しています。
少なくとも米国、フランス、インドの学校や大学はそれ以来、 禁止されました 学生は、ネットワークを使用して ChatGPT にアクセスしたり、ソフトウェアによって生成されたエッセイを提出したりできません。
分類器は、間違った予測に非常に自信を持っている場合があります
専門家はまた、テキスト生成モデルを使用して、大量の誤情報、フィッシング メール、大量のばかげた情報がインターネットに氾濫する可能性があることを懸念しています。 いくつかの 組織 そのため、コンピューター科学者は、AI によって生成されたコンテンツを検出する独自の分類ツールの開発に着手しました。
OpenAI の AI Text Classifier は完璧ではありません。 「AI Text Classifier の使用目的は、人間が書いたコンテンツと AI によって生成されたコンテンツの違いについての会話を促進することです」と、Microsoft が出資したラボ と.
「結果は、文書が AI で生成されたかどうかを判断する際に役立つかもしれませんが、唯一の証拠であってはなりません」と組織は付け加えました。 「このモデルは、さまざまなソースから人間が書いたテキストでトレーニングされていますが、人間が書いたすべての種類のテキストを代表しているわけではありません。」
AI Text Classifier は、過剰に宣伝された ChatGPT だけでなく、さまざまなソースから機械で作成されたテキストを検出するように設計されています。 これは、34 つの組織によって構築された XNUMX のモデルから AI が作成したテキストと、インターネットからスクレイピングして社内のデータセットから取得した人間が作成したテキストの両方でトレーニングされました。
このツールには 1,000 文字のテキスト サンプルが必要であり、英語以外の言語ではうまく機能しません。 OpenAI のアラインメント責任者 Jan Leike 言われ Axios の予測は、偽陽性または偽陰性を生成する可能性があります。
分類器は、ChatGPT などのソフトウェアによって生成された課題を学生が提出したかどうかを評価しようとしている教師にとってもそれほど役に立ちません。 AI Text Classifier は、どの文やスニペットが AI によって作成された可能性があるかを判断できるほど感度が高くないため、コンピューターによって生成され、人間によって微調整されたテキストは、検出を回避される可能性があります。
「学生のエッセイ、自動化された偽情報キャンペーン、チャットのトランスクリプトなど、予想される主要なターゲットの多くについて、モデルが慎重に評価されていないことに注意してください。 実際、ニューラル ネットワークに基づく分類器は、トレーニング データ以外では十分に調整されていないことが知られています。 トレーニング セットのテキストと大きく異なる入力の場合、分類器は間違った予測を非常に信頼する場合があります」とラボは警告しました。
OpenAIも 報道によると 将来の製品に組み込まれる可能性のある透かし技術を含む、AI によって生成されたテキストを検出するための他のアプローチを模索しています。
登録 は OpenAI に、できれば非 AI 生成のコメントを求めています。 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
- 情報源: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- 私たちについて
- アクセス
- 追加されました
- 後
- AI
- すべて
- の中で
- および
- アプローチ
- 物品
- 自動化
- 自動的に
- Axios
- ベース
- の間に
- ボット
- 内蔵
- キャンペーン
- 慎重に
- 文字
- チャットボット
- AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
- コメント
- 会社
- コンピュータ
- 確信して
- コンテンツ
- 会話
- 可能性
- データ
- デビューした
- 十年
- 決定する
- 設計
- 検出
- 異なります
- 虚偽情報
- ドキュメント
- 効果
- メール
- 英語
- 十分な
- エーテル(ETH)
- 評価
- さらに
- 証拠
- 予想される
- 探る
- 非常に
- 恐怖
- 恐怖
- 育てる
- フランス
- 無料版
- から
- ガソリンタンク
- さらに
- 未来
- 生成された
- 生成
- ゴエス
- 助けます
- 助けました
- HTTPS
- 人間
- in
- 含めて
- インド
- 内部
- インターネット
- IT
- ジョン
- 種類
- 既知の
- ラボ
- 言語
- ESL, ビジネスESL <br> 中国語/フランス語、その他
- LEARN
- 可能性が高い
- 探して
- 多くの
- 誤報
- モデル
- ヶ月
- ネットワーク
- ニューラル
- ニューラルネットワーク
- オファー
- オンライン
- OpenAI
- 組織
- 組織
- その他
- 外側
- 自分の
- 完璧
- フィッシング詐欺
- ピース
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- パワード
- 予測する
- 予測
- 予測
- 原則
- 作り出す
- 生産された
- 製品
- 質問
- 価格表
- リリース
- 代表者
- 必要
- 結果
- 上昇
- 規模
- 科学者たち
- 敏感な
- セッションに
- いくつかの
- すべき
- から
- So
- ソフトウェア
- 一部
- ソース
- 開始
- スタートアップ
- 学生
- 生徒
- 提出された
- そのような
- ターゲット
- 教師
- アプリ環境に合わせて
- したがって、
- 〜へ
- トーン
- ツール
- 豊富なツール群
- 訓練された
- トレーニング
- 火曜日
- 大学
- 発表
- us
- つかいます
- 多様
- さまざまな
- かどうか
- which
- 誰
- 意志
- 仕事
- 書かれた
- 間違った
- ゼファーネット