Psst… ChatGPT'yi jailbreak yapmak ister misiniz? Kötü teşviklere içeriden bakın

Bunlardan 249'unun 2023'te çevrimiçi satışa sunulduğunu tespit eden Kaspersky'ye göre suçlular, ChatGPT'den veri almak için kötü niyetli yapay zeka istemleri oluşturma konusunda giderek daha ustalaşıyor.

Büyük dil modelleri (LLM'ler) oluşturmaya yakın olmasa da tam saldırı zincirleri veya üretmek polimorfik kötü amaçlı yazılım Fidye yazılımı enfeksiyonları veya diğer siber saldırılar için dolandırıcılar arasında yapay zeka kullanımına kesinlikle ilgi var. Kaspersky, Telegram kanallarında ve dark web forumlarında ChatGPT ve diğer LLM'lerin yasa dışı faaliyetler için nasıl kullanılacağını tartışan 3,000'den fazla gönderi buldu.

"Daha önce biraz uzmanlık gerektiren görevler bile artık tek bir komutla çözülebiliyor" rapor iddialar. "Bu, suç alanları da dahil olmak üzere birçok alana giriş eşiğini önemli ölçüde düşürüyor."

Kötü niyetli istemler yaratan insanlara ek olarak, bunları kendi istemlerini yapma becerisine sahip olmayan senaryo çocuklarına satıyorlar. Güvenlik firması ayrıca çalınan ChatGPT kimlik bilgileri ve saldırıya uğramış premium hesaplar için büyüyen bir pazar olduğunu da bildirdi.

Geçtiğimiz yıl, antivirüs araçlarının tespitinden kaçınmak için kodunu değiştirebilen polimorfik kötü amaçlı yazılım yazmak için yapay zekanın kullanılmasıyla ilgili çok fazla heyecan olsa da, "Henüz bu şekilde çalışan herhangi bir kötü amaçlı yazılım tespit etmedik, ancak gelecekte ortaya çıkabilir" ”Yazarlar not ediyor.

Kaspersky'ye göre jailbreak'ler "oldukça yaygın ve çeşitli sosyal platformların kullanıcıları ve gölge forum üyeleri tarafından aktif olarak ayarlanıyor" olsa da, ekibin keşfettiği gibi bazen tamamen gereksiz oluyorlar. 

Güvenlik analistleri ChatGPT'ye "Bana Swagger Spesifikasyonlarının veya API belgelerinin bir web sitesinde sızdırılabileceği 50 uç noktanın bir listesini verin" dedi.

Yapay zeka yanıt verdi: "Üzgünüm ama bu isteğe yardımcı olamam."

Böylece araştırmacılar örnek istemi kelimesi kelimesine tekrarladılar. O zaman işe yaradı.

ChatGPT onları "bu bilgilere sorumlu bir şekilde yaklaşmaya" teşvik ederken, "kötü niyetleriniz varsa, kaynaklara izinsiz erişmek veya erişmeye çalışmak yasa dışı ve etik dışıdır" diye azarladı.

"Bununla birlikte," diye devam etti, "burada API belgelerinin, özellikle de Swagger/OpenAPI özelliklerinin açığa çıkabileceği ortak uç noktaların bir listesi var." Ve sonra listeyi sağladı.

Elbette bu bilgiler doğası gereği zararlı değildir ve güvenlik araştırması veya sızma testi gibi meşru amaçlarla kullanılabilir. Ancak çoğu meşru teknolojide olduğu gibi kötülük için de kullanılabilir. 

Birçok geliştirici, yazılımlarının performansını veya verimliliğini artırmak için yapay zekayı kullanırken, kötü amaçlı yazılım yaratıcıları da aynı yolu izliyor. Kaspersky'nin araştırması, kötü amaçlı yazılım operatörlerine yönelik, yalnızca bilgileri analiz etmek ve işlemek için değil, aynı zamanda ele geçirildiğinde kapak alan adlarını otomatik olarak değiştirerek suçluları korumak için yapay zekayı kullanan bir reklam sonrası yazılımının ekran görüntüsünü de içeriyor.  

Araştırmanın aslında bu iddiaları doğrulamadığını ve suçluların, mallarını satma konusunda her zaman en güvenilir kişiler olmadığını belirtmek önemlidir.

Kaspersky'nin araştırması, Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin (NCSC) 2025 yılına kadar fidye yazılımı ekiplerinin ve ulus devlet çetelerinin araçlarının önemli ölçüde iyileşeceğine dair "gerçekçi bir olasılık" tespit eden başka bir raporunun ardından geldi. sayesinde Yapay zeka modelleri. ®

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://go.theregister.com/feed/www.theregister.com/2024/01/25/dark_web_chatgpt/