ChatGPT, ulusal güvenlik için yeni riskler yaratıyor

ChatGPT, ulusal güvenlik için yeni riskler yaratıyor

Zaman Damgası: 20 Temmuz 2023 2:10
Kaynak Düğüm: 2776182

Gibi büyük dil modelleri ChatGPT ve Claude çok çeşitli faydalı ürünler sunar. uygulamaları. Bununla birlikte, ortak ülkeler arasında habis bilgi operasyonları tehdidine karşı sağlam ve entegre bir savunma oluşturmak için koordineli bir çaba gerektiren kullanımlarıyla ilişkili önemli riskler vardır.

Büyük dil modelleri, yaratıcı hikaye planları oluşturmaya, pazarlama kampanyaları oluşturmaya ve hatta kişiselleştirilmiş restoran önerileri oluşturmaya yardımcı olabilir. Ancak, genellikle kesinlikle yanlış olan metinler üretirler. Bu tasarımın, yalnızca yapay zekanın rutin kullanımı için değil, aynı zamanda ABD ulusal güvenliği için de derin etkileri vardır.

AI tarafından oluşturulan içerik, "olarak bilinen bir olgu sergileyebilir.truthiness”- 2000'lerin başında televizyon sunucusu Stephen Colbert tarafından bilginin nasıl doğru hissettirebileceğini açıklamak için uydurulmuş bir cümle. Bu kavram, olgusal doğruluktan yoksun olmasına rağmen, son derece tutarlı bir mantıksal yapıya sahip içeriğin, akıllı ve bilgili insanların bir şeyin doğru olup olmadığına karar vermesini etkileyebileceğini vurgular.

Bilişsel önyargılarımız, iyi yazılmış içeriğin veya çekici görsellerin, iddiaları olduğundan daha doğru gösterme gücüne sahip olduğu anlamına gelir. "Doğruluk" üzerine çalışmış bir bilgin olarak tanımlıyor: "Bir şeyler işlemesi kolay geldiğinde, güvenilir hissettirir."

ABD'nin düşmanları, bir avantaj elde etmek için AI modellerinin kulağa "gerçek" gelme potansiyelini manipüle edebilir - insan yazısını taklit edebilen tutarlı, iyi yapılandırılmış ve ikna edici cümleler üretebilir. Küresel erişimiyle internet, yıkıcı doğruluk saldırıları yoluyla yabancı müdahale için güçlü bir ortam yarattı.

Devlet aktörleri, çıkarlarını desteklemek için çevrimiçi araçları ve bilgi operasyonlarını kullanarak düşmanca bilgi kampanyaları yürütmek için dijital teknolojilerden yararlanıyor. Devlet aktörleri, sosyopolitik arenayı şekillendirmek için bilişsel akıcılık önyargısını ve doğruluğu manipüle edebilir, yapay zeka güdümlü dil modellerinin kötü amaçlı bilgi operasyonları, büyük ölçekli hedef odaklı kimlik avı kampanyaları ve giderek daha inandırıcı hale gelen derin sahte medya için potansiyel kötüye kullanımını genişletebilir.

Bilişsel akıcılık yanlılığının bilgi operasyonlarında istismar edilmesi, yanlış bilgilere aldatıcı bir güvenilirlik kisvesi vererek siyasi sistemlerin ve toplumsal tutarlılığın istikrarsızlaşmasına katkıda bulunabilir.

Microsoft'un başkanı Brad Smith, 25 Mayıs konuşmasında söyledi ABD, "yabancı siber etki operasyonlarından en çok endişelendiğimiz şeyi, yani Rus hükümeti, Çinliler ve İranlılar tarafından hâlihazırda gerçekleştirilen türden faaliyetlerle özellikle ilgilenmek zorunda kalacak."

Rus bilgisayar korsanları ham deepfake girişimi Ukrayna Devlet Başkanı Volodymyr Zelenskyy'nin Ukraynalıları silahlarını bırakmaya çağırdığını tasvir etmek kolayca tanımlanabilirdi. Ancak sorunun artık akademik olmadığı aşikar. Gerçek şu ki, kötü niyetli videolar, sahte belgeler ve sahte sosyal medya hesapları kaba olarak görülmekten aldatıcı bir orijinallik görüntüsü aktarmaya dönüşebilir.

Dezenformasyona dayalı yıkım kampanyalarındaki artış ve kötü niyetli aktörlerin artan çabaları, ABD ve müttefiklerinden stratejik bir yanıt verilmesi gerekliliğinin altını çiziyor. Bu eğilimlerle mücadele etmek için ABD'li politika yapıcıların ihtiyatlı izleme, proaktif uyarılar ve uluslararası işbirliği üzerine inşa edilmiş kapsamlı bir stratejiye ihtiyacı var.

Bu stratejinin temel taşı, bilgi ortamının dikkatli bir şekilde izlenmesi olmalıdır. Yapay zeka ve makine öğrenimindeki gelişmelerle güçlendirilen sürekli izleme, dezenformasyon kampanyalarının erken tespiti ve etkisiz hale getirilmesi için hayati önem taşır.

Bu duruş, ABD Savunma Bakanlığı'nın bilgi ortamını “izleme, analiz etme, karakterize etme, değerlendirme, tahmin etme ve görselleştirme” için gelişmiş bir yetenek çağrısını yansıtıyor. detaylı 2016 yılında “Bilgi Ortamında Operasyon Stratejisi”nde. Bunu uygulamak için, askeri ve istihbarat teşkilatlarının özelleşmiş birimlere ihtiyacı olacaktır. bilgi savaşı, toplanan verileri yorumlamak ve bunlara göre hareket etmek için gereken önemli uzmanlığı sağlayabilir.

ABD hükümetinin aynı zamanda hem gerçeği destekleyen hem de dezenformasyonu ifşa eden sağlam bir uyarı sistemine ihtiyacı var. Zamanında ve etkili uyarılar, halkı yanlış anlatımlardan korumaya yardımcı olabilir ve dezenformasyon kampanyalarının etkisini önemli ölçüde azaltır. Gerçeğin gücü bu bağlamda müthiş bir araçtır; yalanların yıpratıcı etkilerine karşı etkili bir önlem görevi görür.

Son olarak, uluslararası müttefiklerle stratejik ortaklıkları güçlendirmeye ihtiyaç vardır. Kötü niyetli dezenformasyon kampanyalarının küresel doğası, karşı çabaların eşit derecede geniş kapsamlı olmasını zorunlu kılar. Bu ortaklıklar paha biçilmez yerel bilgi sağlar ve güveni besler; bunların her ikisi de uyarıların güvenilirliğini büyük ölçüde artırabilir ve dezenformasyona karşı toplumsal dayanıklılığı güçlendirebilir.

Christopher Mouton, Rand düşünce kuruluşunda kıdemli bir mühendis ve Pardee RAND Graduate School'da profesördür.

Zaman Damgası:

Den fazla Savunma Haberleri Pentagon