AI dan keamanan: Rumit tetapi tidak perlu | IoT Now Berita & Laporan

AI dan keamanan: Rumit tetapi tidak perlu | IoT Now Berita & Laporan

Stempel Waktu: 19 Januari 2024 5
Node Sumber: 3071147

AI semakin populer dan tren ini akan terus berlanjut. Hal ini didukung oleh Gartner yang menyatakan bahwa sekitar 80% perusahaan telah menggunakan kecerdasan buatan generatif (GenAI) antarmuka atau model pemrograman aplikasi (API) pada tahun 2026. Namun, AI adalah istilah yang luas dan ada di mana-mana, dan, dalam banyak kasus, AI mencakup berbagai teknologi. Meski demikian, AI menghadirkan terobosan dalam kemampuan memproses logika secara berbeda yang menarik perhatian para pelaku bisnis dan konsumen yang bereksperimen dengan berbagai bentuk AI saat ini. Pada saat yang sama, teknologi ini juga menarik perhatian serupa dari para pelaku ancaman yang menyadari bahwa teknologi ini dapat menjadi kelemahan dalam keamanan perusahaan dan juga dapat menjadi alat yang membantu perusahaan untuk mengidentifikasi kelemahan tersebut dan mengatasinya.

Tantangan keamanan AI

Salah satu cara perusahaan menggunakan AI adalah dengan meninjau kumpulan data yang besar untuk mengidentifikasi pola dan mengurutkan data yang sesuai. Hal ini dicapai dengan membuat kumpulan data tabular yang biasanya berisi baris demi baris data. Meskipun hal ini memberikan manfaat yang signifikan bagi perusahaan, mulai dari meningkatkan efisiensi hingga mengidentifikasi pola dan wawasan, hal ini juga meningkatkan risiko keamanan jika terjadi pelanggaran, data ini disortir dengan cara yang mudah digunakan oleh pelaku ancaman.

Ancaman lebih lanjut berkembang ketika menggunakan teknologi Model Bahasa Besar (LLM) yang menghilangkan hambatan keamanan karena data ditempatkan dalam domain publik bagi siapa saja yang menggunakan teknologi tersebut untuk menemukan dan menggunakannya. Karena LLM pada dasarnya adalah bot yang tidak memahami detailnya, LLM menghasilkan respons yang paling mungkin berdasarkan probabilitas menggunakan informasi yang dimilikinya. Oleh karena itu, banyak perusahaan yang mencegah karyawan memasukkan data perusahaan apa pun ke alat seperti ChatGPT untuk menjaga keamanan data di dalam perusahaan.

Manfaat keamanan AI

Meskipun AI mungkin menimbulkan potensi risiko bagi perusahaan, AI juga dapat menjadi bagian dari solusi. Karena AI memproses informasi secara berbeda dari manusia, AI dapat melihat permasalahan secara berbeda dan menghasilkan solusi terobosan. Misalnya, AI menghasilkan algoritma yang lebih baik dan dapat memecahkan masalah matematika yang telah dihadapi manusia selama bertahun-tahun. Oleh karena itu, dalam hal keamanan informasi, algoritma adalah rajanya AI, Pembelajaran Mesin (ML) atau teknologi komputasi kognitif serupa, dapat menemukan cara untuk mengamankan data.

Ini adalah manfaat nyata dari AI karena tidak hanya dapat mengidentifikasi dan menyortir informasi dalam jumlah besar, namun juga dapat mengidentifikasi pola yang memungkinkan organisasi melihat hal-hal yang tidak pernah mereka sadari sebelumnya. Hal ini membawa elemen baru pada keamanan informasi. Meskipun AI akan digunakan oleh pelaku ancaman sebagai alat untuk meningkatkan efektivitas peretasan sistem, AI juga akan digunakan sebagai alat oleh peretas etis untuk mencoba mencari tahu cara meningkatkan keamanan yang akan sangat bermanfaat bagi bisnis.

Tantangan karyawan dan keamanan

Karyawan, yang melihat manfaat AI dalam kehidupan pribadi mereka, menggunakan alat-alat seperti itu ChatGPT untuk meningkatkan kemampuan mereka dalam melakukan fungsi pekerjaan. Pada saat yang sama, para karyawan ini menambah kompleksitas keamanan data. Perusahaan perlu menyadari informasi apa yang dimasukkan karyawan ke dalam platform ini dan ancaman yang terkait dengannya.

Karena solusi ini akan memberikan manfaat bagi tempat kerja, perusahaan dapat mempertimbangkan untuk memasukkan data non-sensitif ke dalam sistem untuk membatasi paparan kumpulan data internal sekaligus mendorong efisiensi di seluruh organisasi. Namun, organisasi perlu menyadari bahwa mereka tidak bisa mendapatkan keduanya, dan data yang mereka masukkan ke dalam sistem tersebut tidak akan bersifat pribadi. Oleh karena itu, perusahaan perlu meninjau kebijakan keamanan informasi mereka dan mengidentifikasi cara menjaga data sensitif sekaligus memastikan karyawan memiliki akses ke data penting.

Bukan data sensitif tapi berguna

Perusahaan menyadari nilai yang dapat diberikan oleh AI sekaligus menambah nilai tambah risiko keamanan ke dalam campuran. Untuk mendapatkan manfaat dari teknologi ini sekaligus menjaga kerahasiaan data, mereka mencari cara untuk menerapkan data anonim menggunakan nama samaran, misalnya yang menggantikan informasi yang dapat diidentifikasi dengan nama samaran, atau suatu nilai dan tidak memungkinkan individu untuk diidentifikasi secara langsung.

Cara lain bagi perusahaan untuk melindungi data adalah dengan AI generatif untuk data sintetis. Misalnya, jika perusahaan memiliki kumpulan data pelanggan dan perlu membaginya dengan pihak ketiga untuk analisis dan wawasan, mereka mengarahkan model pembuatan data sintetis ke kumpulan data tersebut. Model ini akan mempelajari semua tentang kumpulan data, mengidentifikasi pola dari informasi tersebut dan kemudian menghasilkan kumpulan data dengan individu fiktif yang tidak mewakili siapa pun dalam data sebenarnya tetapi memungkinkan penerima untuk menganalisis keseluruhan kumpulan data dan memberikan kembali informasi yang akurat. Artinya, perusahaan dapat membagikan informasi palsu namun akurat tanpa mengungkap data sensitif atau pribadi. TPendekatannya memungkinkan sejumlah besar informasi digunakan oleh model pembelajaran mesin untuk analisis dan, dalam beberapa kasus, untuk menguji data untuk pengembangan.

Dengan beberapa metode perlindungan data yang tersedia bagi perusahaan saat ini, nilai teknologi AI dapat dimanfaatkan dengan tenang karena data pribadi tetap aman dan terlindungi. Hal ini penting bagi bisnis karena mereka merasakan manfaat sebenarnya dari data dalam meningkatkan efisiensi, pengambilan keputusan, dan pengalaman pelanggan secara keseluruhan.

Artikel oleh Clyde Williamson, kepala arsitek keamanan dan Nathan Vega, wakil presiden, pemasaran produk dan strategi di Protegrity.

Komentari artikel ini di bawah atau melalui X: @Iotnow_

Stempel Waktu:

Lebih dari IoT Sekarang