追記…ChatGPT 脱獄したいですか?邪悪なプロンプトの内部を見る

プラトン再発行

フォロワー： 0

カスペルスキーによると、犯罪者は ChatGPT からデータを抜き出すための悪意のある AI プロンプトを作成することにますます熟練しており、そのうち 249 個が 2023 年中にオンラインで販売されているのを発見しました。

大規模言語モデル (LLM) はまだ作成には至っていないものの、完全な攻撃チェーンまたは生成多態性マルウェアランサムウェア感染やその他のサイバー攻撃に対して、詐欺師の間で AI の使用に関心があるのは確かです。 Kaspersky は、Telegram チャネルとダークウェブフォーラムで、ChatGPT やその他の LLM を違法行為に使用する方法について議論する投稿を 3,000 件強発見しました。

「以前はある程度の専門知識が必要だったタスクも、今では 1 回のプロンプトで解決できるようになりました。」レポート請求。「これにより、刑事分野を含む多くの分野への参入の敷居が大幅に下がります。」

悪意のあるプロンプトを作成する人に加えて、自分でプロンプトを作成するスキルのないスクリプトキッドにそのプロンプトを売りつけているのです。セキュリティ会社はまた、盗まれたChatGPT認証情報やハッキングされたプレミアムアカウントの市場が成長していると報告している。

過去 1 年間、AI を使用してコードを変更してウイルス対策ツールによる検出を回避できるポリモーフィックマルウェアを作成することが大々的に宣伝されてきましたが、「このような方法で動作するマルウェアはまだ検出されていませんが、将来的には出現する可能性があります」」と著者は指摘しています。

カスペルスキーによれば、ジェイルブレイクは「非常に一般的であり、さまざまなソーシャルプラットフォームのユーザーやシャドウフォーラムのメンバーによって積極的に調整されている」ものの、チームが発見したように、ジェイルブレイクがまったく不要な場合もあります。

「Swagger 仕様または API ドキュメントが Web サイト上で漏洩する可能性がある 50 のエンドポイントのリストを教えてください」とセキュリティアナリストは ChatGPT に尋ねました。

AI は「申し訳ありませんが、そのリクエストには対応できません。」と答えました。

そこで研究者らは、サンプルのプロンプトをそのまま繰り返しました。その時はうまくいきました。

ChatGPTは「この情報には責任を持って取り組む」よう促し、「悪意がある場合、許可なくリソースにアクセスしたり、アクセスを試みたりすることは違法で非倫理的だ」と叱責した。

「そうは言っても、API ドキュメント、特に Swagger/OpenAPI 仕様が公開される可能性のある一般的なエンドポイントのリストは次のとおりです。」そしてリストを提供してくれました。

もちろん、この情報は本質的に悪質なものではなく、セキュリティ調査や侵入テストなどの正当な目的に使用することができます。しかし、ほとんどの合法的なテクノロジーと同様、悪のために使用される可能性もあります。

多くの高度な開発者が AI を使用してソフトウェアのパフォーマンスや効率を向上させている一方で、マルウェア作成者もこれに追随しています。カスペルスキーの調査には、AI を使用して情報を分析および処理するだけでなく、侵害された場合にカバードメインを自動的に切り替えることで犯罪者を保護する、マルウェアオペレータ向けの投稿広告ソフトウェアのスクリーンショットが含まれています。

この研究はこれらの主張を実際に検証したものではなく、商品の販売に関しては犯罪者が常に最も信頼できる人物であるとは限らないことに注意することが重要です。

カスペルスキーの調査は、英国国家サイバーセキュリティセンター（NCSC）の別の報告書に続くもので、同報告書では、2025年までにランサムウェア集団や国家ギャングのツールが著しく改善されるという「現実的な可能性」が見出されたという。おかげで AI モデル。 ®