Kepala Keamanan Siber Kanada Memperingatkan Video Buatan AI yang Mengancam Pemilu

Kepala Keamanan Siber Kanada Memperingatkan Video Buatan AI yang Mengancam Pemilu

Stempel Waktu: 8 Januari 2024 9
Node Sumber: 3051446

Penka Hristovska


Penka Hristovska

Diterbitkan: Januari 8, 2024

Kepala keamanan siber Kanada memperingatkan bahaya yang ditimbulkan oleh video palsu yang dibuat oleh AI terhadap pemilu mendatang.

Sami Khoury, kepala Pusat Keamanan Siber Kanada (CCCS), mengatakan bahwa teknologi AI yang digunakan untuk membuat video palsu tumbuh jauh lebih cepat dibandingkan pengembangan alat verifikasi yang bertujuan mendeteksi penggunaan teknologi tersebut.

Hal ini pada dasarnya berarti bahwa Kanada (atau negara lain mana pun) mungkin tidak memiliki kemampuan untuk berhasil menangkap semua video dan audio AI palsu yang mungkin digunakan pihak jahat untuk menyebarkan disinformasi terkait pemilu mendatang.

“AI sekarang dapat digunakan untuk meniru suara saya,” kata Khoury kepada The New York Times Nasional Pos. “Itulah evolusi berikutnya. Sekarang, Anda dapat mengambil cuplikan suara saya, 30 detik, satu menit, dan membuatnya mengatakan sesuatu yang sangat berlawanan dengan pesan saya dan itu akan menjadi sangat autentik.”

“Itu bisa dilakukan dengan cukup mudah menggunakan alat online,” lanjutnya. “Dan kemudian Anda berevolusi sedikit lebih jauh, dan Anda masuk ke dalam video deepfake. Teknologi bergerak ke arah tersebut. Kami belum tahu cara mengautentikasi… atau membatalkan autentikasi. Bagaimana cara mengatakan bahwa ini bukan suara saya, atau bagaimana cara mengautentikasi bahwa pesan tersebut benar-benar dari saya?”

Mengingat laporan Ancaman Cyber ​​terhadap Proses Demokratik Kanada yang menyatakan bahwa lawan geopolitik Kanada mungkin menggunakan AI untuk membuat video dan gambar “deepfake”, Khoury juga menunjuk pada upaya phishing yang semakin meyakinkan — pelaku kejahatan kini memiliki AI untuk membantu mereka menyempurnakan serangan mereka. .

“Sudah lama berlalu ketika email phishing … memiliki kesalahan ketik, memiliki tanda baca yang lucu, yang menjual sesuatu yang terlalu bagus untuk menjadi kenyataan,” katanya.

Selain itu, ini jauh lebih mudah daripada meretas suatu organisasi.

“Perusahaan berinvestasi dalam membuat produknya sedikit lebih aman,” jelas Khoury. “Jadi, satu-satunya cara untuk melewati cangkang keras itu, keamanan perimeter, adalah… dengan melemparkan diri Anda ke tengah-tengah jaringan. Phishing cenderung menjadi cara untuk melakukannya.”

Mengenai serangan ransomware, Khoury mengatakan Badan Keamanan Komunikasi memulai program untuk memperingatkan lembaga pemerintah dan organisasi lain ketika mereka mendeteksi potensi serangan ransomware.

“Kami telah menemukan teknik untuk mendeteksi beberapa langkah dalam tarian tersebut dengan cukup percaya diri sehingga kami dapat mengeluarkan peringatan otomatis untuk mengatakan … bahwa kami telah menangkap beberapa sinyal tersebut, ada beberapa aktivitas yang terjadi pada infrastruktur Anda. itu adalah langkah-langkah menuju potensi insiden ransomware,” katanya.

Sejauh ini, organisasi tersebut telah mengeluarkan sekitar 500 pemberitahuan semacam itu.

“Dalam banyak kasus, masukan yang kami dengar adalah bahwa hal ini membuat perbedaan dan mereka telah berhasil mengisolasi sistem dan menghentikan penyebaran ransomware,” kata Khoury.

Stempel Waktu:

Lebih dari Detektif Keamanan