Sahteliği kırın: Ses klonlama dolandırıcılığını durdurma yarışı sürüyor

Dolandırıcılar

Yapay zeka destekli ses klonlama, sahtekarlık dolandırıcılıklarına hız verirken, 'hi-fi' dolandırıcılık aramalarını nasıl sonlandıracağımızı ve deepfake tespitinde geleceğin neler getireceğini tartışmak için ESET'ten Jake Moore ile bir araya geliyoruz

Cameron Kampı

Ocak 23 2024
 • 
,
4 dk. okuman

CEO'nuzun sizden para göndermenizi isteyen sahte bir çağrısına kanar mıydınız? Meslektaşımız olarak Jake Moore bunu öğrendi, Eğer olabilir. Yedek bilgi işlem döngülerine sahip bilgisayarlar giderek daha fazla eğitim verisiyle beslendikçe, deepfake'ler giderek daha iyi hale geliyor. Onlara uzun bir CEO konuşması besleyin; sonunda onları oldukça ikna edici hale getirebilecek vurgu, tonlama ve diğer incelikli konuşma kalıplarını kazanırlar.

Şimdi, en azından ABD'de, bir Sahteliği kırmak için yarışmave umarım savunma sistemlerine ilgili bir saldırıyı engelleme yolları sağlamanın yollarını buluruz. Federal Ticaret Komisyonu (FTC) tarafından ortaya atılan bu mücadelede, rakipler ses sahtekarlıklarını önlemek için bulabildikleri her türlü teknolojiyi bir araya getirerek 25,000 dolarlık bir ödül kazandılar.

Yarışmalar, uzay giysisi tasarımlarından sürücüsüz araçlara ve güneş teknolojilerine kadar her şey için kullanılıyor ve artık tüketicileri yapay zeka destekli ses klonlamanın zararlarına karşı korumak için bir yarış yaratmayı amaçlayarak deepfake savunma alanına olan ilgiyi ve katılımcıları artırmayı amaçlıyor. Portala kaydolduğunuzda fikirleriniz diğer yaklaşımlarla rekabet ederek altın madalyayı size getirebilir.

Bunun Jake gibi birini durdurup durduramayacağını hâlâ merak ediyorum, bu yüzden ona sordum.

S: İşletmeler mevcut, yaygın olarak bulunabilen teknolojileri (ve eğer öyleyse hangilerini) kullanarak kendilerini bu tehdide karşı savunabilecekler mi?

Jake: Maalesef cevabın, gelişen bu sorunla mücadele edecek karşı önlem teknolojilerinde yattığını düşünmüyorum. Bu yeni yapay zeka çağının hâlâ başlangıç ​​aşamasındayız ve birçok işletme iyi, kötü ve çirkin kullanımlar ve bunların yetenekleri fikrine odaklanıyor. Teknoloji, ihtiyacı olanlara yardım etmek için sürekli olarak geliştirilmektedir, ancak yeni bir teknolojinin herhangi bir başlangıç ​​​​aşamasında olduğu gibi, böyle bir hareketin hızlı temposu, insanları ve işletmeleri dolandırmak için kullanılmasına yönelik yasa dışı taleplerdeki değişime ayak uyduramaz.

S: Bireyler için aynı sorular; emekli dolandırıcılıklarını, aşk dolandırıcılıklarını ve benzerlerini mi düşünüyorsunuz?

Jake: Yapay zeka, dolandırıcıların eylemlerini eskisinden çok daha büyük ölçeklerde gerçekleştirmesine olanak sağladı, bu da sayı oyununun daha da büyüdüğü anlamına geliyor. Daha fazla kişi hedeflendiğinde, elde edilen ödüller çok daha büyük oluyor ve dolandırıcıların hiçbir ekstra çabası olmuyor.

Ancak bireylerin, klasik dolandırıcılıklardan güncel trendlere kadar tüm dolandırıcılıklara karşı daha bilgili olmaya devam etmeleri gerekiyor. Özellikle ses klonlama ve benzerliklerin çarpıcı bir doğrulukla taklit edilmesinin ortaya çıkışıyla birlikte, insanların böyle düşünmeyi bırakması gerekiyor. görmek (ve duymak) inanmaktır. Bu tür dolandırıcılıkların mümkün olduğunun farkında olmak, bu tür iletişimleri daha dikkatli sorgulamayı hedefleyen kişilere güven sağlayacak ve onlara eylemlerini sorgulamaktan korkmamayı öğretecektir.

İnternette bu tür dolandırıcılıklarla ilgili farkındalık tavsiyeleri sunan pek çok rehber bulunmaktadır ve insanların korunmak ve korunmak için kendilerini sürekli olarak en son bilgilerle yenilemeleri gerekir.

Q: Kurumsal dolandırıcılıkla mücadele ekipleri, kullanıcılarına/müşterilerine yönelik saldırıları engellemek için ne yapabilir ve insanlar dolandırılırsa bunun bedelini kim ödemelidir?

Jake: Varsayılan olarak, dolandırıcılıkla mücadele ekipleri ne pahasına olursa olsun eğitim sunmak zorundadır; bu eğitimin hem yıllık olması hem de kuruluşun tüm üyeleri için geçici olması gerekir. Simülasyon saldırıları ve savaş oyunları aynı zamanda mesajın ilgi çekici bir şekilde yerine ulaştırılmasına yardımcı olur ve ciddi bir sorunu daha ilginç bir dinamiğe taşıyarak güvenli bir ortamda başarısızlığa izin verir.

İnsanlar günümüzün saldırı kavramını deneyimlediğinde ve bu yeni teknolojinin ölçeğine ilk elden tanık olduklarında, gerçek bir saldırı anında tavsiyeyi hatırlama olasılıkları daha yüksek olacaktır. Yapay zeka hâlâ çok etkileyici; bu nedenle deepfake'leri güvenli bir ortamda çalışırken görmek, çok fazla korku faktörü yaratmadan yaratabileceği potansiyel olarak tehlikeli sonuçları sergileme fırsatı veriyor.

Soru: Bu açıkça bir kedi-fare oyunu, peki kim kazanacak?

Jake: Başından beri "polisler ve soyguncular" arasında, soyguncuların genellikle birkaç adım önde olduğu bir kovalamaca yaşandı. Ancak teknoloji geliştikçe geride kalmadığımızdan emin olmalı ve dolandırıcılara daha da büyük bir avantaj sağlamalıyız.

Dolandırıcıların her zaman kazanamaması için insanların bu kaçınılmaz saldırılarla en iyi şekilde mücadele edebilmeleri için doğru araç ve bilgilerle donatılması hayati önem taşıyor. Bireyler ve işletmeler, en son saldırı vektörleri ve gelişen dolandırıcılıklarla ilgili güncel bilgileri takip ederek, bu yeni teknolojik saldırı dalgasına karşı savunmada en iyi şansa sahip olurlar.

Kesin olan bir şey var: Bu artık teorik bir tehdit değil. 2024 ve sonrasının, dolandırıcıların, özellikle güvenilir bir yetkilinin sizden bir şey yapmanızı "istediği" dehşet verici olaylara yanıt olarak, çok hızlı bir şekilde ses destekli saldırılar başlatmak için yeni otomatik yöntemler bulacağı bir dönem olmasını bekliyoruz. Her şey kulağa ikna edici gelecek, bir aciliyet havası ve işitsel çok faktörlü kimlik doğrulama gibi görünen bir şeyle tamamlanacak, ancak "bir yetkiliden kişisel olarak haber almış olsanız" bile yine de dolandırılabilirsiniz.

Zaman ayırdığın için teşekkürler Jake.