Ketahanan Siber di Era Kecerdasan Buatan

Diterbitkan Ulang Oleh Plato

Followers: 0

Konten Mitra Mungkin ada sedikit kegembiraan yang tidak masuk akal di beberapa sektor TI sehubungan dengan potensi GenAI untuk menguntungkan mereka dalam bidang pertahanan siber.

Menurut PDBI Teknologi Dell 2024 Berdasarkan survei yang dilakukan, 52 persen responden percaya bahwa GenAI pada awalnya akan memberikan keuntungan bagi organisasi dalam melawan ancaman dunia maya, sementara hanya 27 persen yang berpendapat bahwa GenAI akan menguntungkan para penjahat dunia maya.

Namun, disarankan untuk berhati-hati. Para ahli, termasuk CTO Dell Technologies, John Roese, berpendapat bahwa penjahat siber mungkin memanfaatkan GenAI lebih awal dibandingkan pelaku bisnis, sehingga memberi mereka keunggulan dalam perlombaan senjata siber yang sedang berlangsung. Contoh penyelesaian CAPTCHA GenAI menyoroti potensi penggunaannya untuk aktivitas jahat, sehingga menciptakan peluang baru bagi pelaku kejahatan. Selain itu, kemampuan otomatisasi GenAI yang cepat memungkinkannya dengan cepat menggabungkan alat-alat canggih seperti ransomware-as-a-service dan teknik peretasan tingkat lanjut, sehingga meningkatkan kehebatan pelaku ancaman secara real-time.

Kemampuan GenAI mencakup pembuatan deepfake yang meyakinkan, menghadirkan batas baru dalam pertempuran digital. Negara-negara menerapkan taktik ini ke dalam strategi perang siber mereka, memanfaatkan konten yang menipu untuk menyebarkan propaganda, mempengaruhi opini publik, dan berpotensi memicu kekerasan. Risiko serangan yang digunakan untuk perdagangan frekuensi tinggi, manipulasi pasar, atau pelanggaran privasi pribadi menambah kompleksitas. Ketika batas antara realitas dan konten yang dihasilkan AI menjadi kabur, kepercayaan terhadap konten digital, komunikasi, dan sistem mungkin terkikis.

Penargetan GenAI

Meskipun sistem GenAI menawarkan kemampuan tingkat lanjut, sistem ini juga menjadi target serangan musuh. Mengamankan lingkungan ini memerlukan perangkat tepercaya, infrastruktur, dan tindakan kontrol akses yang kuat. Melindungi sejumlah besar data yang diandalkan sistem GenAI untuk pembelajaran sangatlah penting, sehingga memerlukan klasifikasi data, enkripsi, penyimpanan aman, dan teknik transmisi.

Penting juga untuk dicatat bahwa sistem GenAI dapat dipengaruhi oleh bias dalam data pelatihannya yang dapat mengakibatkan keputusan yang tidak adil atau diskriminatif. Menerapkan audit rutin, teknik mitigasi bias, dan pedoman etika diperlukan untuk mengurangi bias ini.

Beban kerja GenAI juga diharapkan menghasilkan data baru dalam jumlah besar. 88 persen responden survei GDPI menyatakan kumpulan data tertentu yang dihasilkan GenAI akan sangat berharga sehingga memerlukan perlindungan dan keamanan data yang ketat. Selain itu, dengan beban kerja GenAI yang diperkirakan akan didistribusikan ke seluruh cloud lokal dan beberapa cloud publik, perlindungan ini perlu mencakup lingkungan hybrid dan multicloud untuk memastikan data terlindungi dengan baik di mana pun data berada.

Memanfaatkan GenAI

Terlepas dari tantangan-tantangan ini, GenAI dapat menjadi sekutu yang sangat diperlukan dalam perjuangan kita melawan penjahat dunia maya. Dengan lebih dari separuh organisasi dalam survei GDPI mengonfirmasi bahwa mereka pernah mengalami serangan siber dalam 12 bulan terakhir, GenAI dapat membantu membalikkan keadaan dengan menyediakan alat prediktif untuk mengantisipasi serangan, membantu mengidentifikasi dan menambal kerentanan, serta meningkatkan deteksi dan respons ancaman dengan menganalisis sejumlah besar data dengan cepat untuk menunjukkan pola dan perilaku yang anomali. Selain itu, hal ini dapat membantu dengan pelatihan yang lebih preskriptif dan dipersonalisasi bagi pengguna akhir untuk membantu memperbaiki perilaku yang tidak diinginkan, seperti mengklik halaman http yang tidak aman atau membuka email yang mencurigakan.

GenAI juga dapat membantu pemulihan dari serangan siber, dalam skala besar, dengan mengidentifikasi sistem dan data yang terkena dampak serta mengotomatiskan proses pemulihan dari cadangan. Secara keseluruhan, GenAI akan membantu perusahaan untuk tidak hanya meningkatkan efisiensi namun juga membantu memperlebar kesenjangan keterampilan keamanan dengan membebaskan personel keamanan untuk fokus pada tugas-tugas yang lebih strategis dan kompleks.

Pedang bermata dua

GenAI mewakili pedang bermata dua untuk keamanan siber. Di satu sisi, hal ini membawa tantangan baru yang mengharuskan kita memikirkan kembali dan mengembangkan strategi keamanan siber serta melindungi model bahasa besar (LLM) kita. Di sisi lain, ia menjanjikan peningkatan deteksi dan respons ancaman, kemampuan prediktif, dan efisiensi operasional. Kuncinya terletak pada memanfaatkan manfaatnya sambil secara proaktif mengatasi risiko, melalui langkah-langkah keamanan yang kuat, pemantauan terus-menerus, pembaruan dan patching rutin, serta pendekatan yang terus berkembang terhadap privasi dan etika data.

Kami berada pada tahap awal perjalanan GenAI, dengan hanya 20 persen organisasi yang disurvei yang ikut serta Survei Dell Generative AI Pulse setelah menetapkan solusi GenAI. Kekhawatiran yang menghambat adopsi termasuk ketakutan akan hilangnya data dan kekayaan intelektual, yang menyebabkan keragu-raguan dalam penerapannya. Hambatan utama mencakup keamanan, kompleksitas teknis, dan tata kelola data. Untuk mengatasi tantangan-tantangan ini, organisasi perlu mengakses keahlian penting dalam perlindungan data, keamanan siber, dan penerapan GenAI, yang penting untuk meminimalkan risiko dan memastikan waktu yang cepat untuk mencapai nilai.

Bergerak kedepan

Dalam menavigasi lanskap yang rumit ini, Dell Technologies berdiri sebagai penyedia solusi dan layanan komprehensif, yang menawarkan solusi untuk platform GenAI dan penawaran keamanan siber. Dell berkomitmen untuk membantu organisasi dengan percaya diri menavigasi kompleksitas dalam memajukan postur keamanan siber mereka. Memanfaatkan tiga bidang utama; mengurangi permukaan serangan, deteksi dan respons dan pemulihan, Dell Technologies memberdayakan dunia usaha untuk bergerak maju dengan teknologi inovatif, sehingga mempercepat aspirasi digital mereka. Seiring dengan berkembangnya era digital, Dell Technologies dan ekosistem mitranya berkomitmen untuk membantu pelanggan kami menjembatani kesenjangan antara teknologi inovatif sekaligus memastikan ketahanan dan keberlanjutan lingkungan mereka di tahun-tahun mendatang.

Artikel disumbangkan oleh Dell Technologies.