5 bidang utama bagi pemerintah untuk menerapkan AI generatif secara bertanggung jawab – Blog IBM

Pada tahun 2024, proses digitalisasi yang sedang berlangsung semakin meningkatkan efisiensi program pemerintah dan efektivitas kebijakan, sebagaimana telah dijelaskan pada bagian sebelumnya. laporan resmi. Dua elemen penting yang mendorong transformasi digital ini adalah data dan kecerdasan buatan (AI). AI memainkan peran penting dalam membuka manfaat dari data dan mendapatkan wawasan lebih dalam mengenai informasi luas yang dikumpulkan pemerintah untuk melayani warganya.  

Karena permintaan akan AI generatif diperkirakan akan meningkat pada tahun ini, sektor publik harus memanfaatkan teknologi ini secara bertanggung jawab. Hanya dengan melakukan hal ini, pemerintah dapat menjadikan dirinya sebagai pengelola yang dapat dipercaya. 

Perbedaan antara AI generatif dan AI tradisional 

Untuk memahami tantangan unik yang ditimbulkan oleh AI generatif dibandingkan AI tradisional, ada baiknya untuk memahami perbedaan mendasar keduanya. AI tradisional terutama mengandalkan algoritme dan kumpulan data berlabel ekstensif untuk melatih model melalui pembelajaran mesin. Model ini dapat memberikan rekomendasi atau mengidentifikasi perilaku tertentu dengan mengenali pola dan mematuhi aturan yang telah ditentukan. Misalnya, AI tradisional digunakan untuk meningkatkan efektivitas penyaringan email spam, meningkatkan rekomendasi film atau produk bagi konsumen, dan memungkinkan asisten virtual untuk membantu individu dalam mencari informasi. 

AI Generatif muncul sebagai solusi berharga untuk mengotomatisasi dan meningkatkan tugas administratif rutin dan berulang. Teknologi ini unggul dalam penerapan model dasar, yaitu jaringan saraf besar yang dilatih pada data ekstensif yang tidak berlabel dan disesuaikan untuk berbagai tugas. Ini dapat secara efektif mengidentifikasi, meringkas, mengonversi, memprediksi, dan menghasilkan konten dari kumpulan data besar. Penerapan teknologi ini di sektor publik dapat meningkatkan efisiensi secara signifikan, memungkinkan organisasi menyelesaikan tugas sehari-hari mereka dengan sumber daya yang lebih sedikit. 

AI Generatif menghadirkan peluang yang belum pernah terjadi sebelumnya untuk meningkatkan berbagai aspek operasi pemerintah dan meningkatkan layanan bagi masyarakat. Hal ini dapat memberdayakan pegawai pemerintah dengan alat yang lebih canggih untuk menjawab pertanyaan dan melakukan penelitian. Tugas-tugas seperti penulisan kontrak dan manajemen, yang memakan waktu dan krusial, mungkin akan mendapatkan manfaat besar dari penerapan AI generatif. 

Tahun lalu, Departemen Luar Negeri AS meminta masukan mengenai tantangan dan pertimbangan keamanan dalam memperkenalkan AI pemrosesan bahasa generatif dan alami ke dalam jaringannya. Permintaan informasi dari Departemen Luar Negeri pada bulan Juni mengungkapkan tujuan mereka untuk meningkatkan efisiensi dan akurasi pekerja dalam tugas berulang yang berkaitan dengan riset pasar dan perencanaan akuisisi untuk penulisan kontrak. AI generatif yang dilatih pembelajaran mesin mungkin membantu dalam menyusun kontrak baru berdasarkan penelitian ini. 

Menerapkan AI generatif secara bertanggung jawab 

Kemampuan generatif yang luar biasa dari teknologi AI yang baru muncul ini menimbulkan pertanyaan mengenai penggunaannya yang bertanggung jawab di sektor publik. Misalnya, manajer kontrak perlu mengetahui bahwa penelitian asli diubah menjadi kontrak yang mengikat secara hukum untuk dua pihak atau lebih.  

Masyarakat baru-baru ini menemukan AI generatif terutama melalui alat yang menggunakan teks, gambar, video, dan audio yang sudah ada untuk membuat konten yang disesuaikan sesuai permintaan. Namun, tingkat detail mengenai pelatihan beberapa model tersebut mungkin tidak cukup, terutama bagi perusahaan besar atau industri yang diatur secara ketat dan bergantung pada kepercayaan publik.  

Untuk mengembangkan AI yang bertanggung jawab, para pemimpin pemerintahan harus berhati-hati menyiapkan data internal mereka untuk memanfaatkan potensi penuh AI dan AI generatif. Menetapkan standar yang bertanggung jawab merupakan peran penting pemerintah, yang memerlukan integrasi tanggung jawab sejak awal, bukan hanya sekedar pemikiran setelahnya. Hal ini termasuk menjaga pengawasan manusia untuk membantu memastikan keakuratan konten yang dihasilkan AI dan mencegah bias, serta pertimbangan lainnya. 

Pilar utama AI yang bertanggung jawab di pemerintahan 

Pengembangan AI IBM berpusat pada 5 pilar dasar untuk membantu memastikan AI yang dapat dipercaya. Para pemimpin pemerintahan harus memprioritaskan pilar-pilar berikut ketika mempertimbangkan pengembangan, pelatihan, dan penerapan AI yang bertanggung jawab:  

• Keadilan dalam sistem AI mengacu pada kemampuannya untuk memperlakukan individu atau kelompok secara adil, bergantung pada konteks di mana sistem AI digunakan. Hal ini berarti melawan bias dan mencegah diskriminasi yang terkait dengan karakteristik yang dilindungi, seperti gender, ras, usia, dan status veteran. 
• Privasi berkaitan dengan kemampuan sistem AI untuk memprioritaskan dan menjaga privasi dan hak data konsumen sekaligus mematuhi peraturan yang ada terkait pengumpulan, penyimpanan, akses, dan pengungkapan data.  
• Dapat dijelaskan Hal ini penting karena sistem AI harus mampu memberikan penjelasan yang dapat ditafsirkan manusia atas prediksi dan wawasannya dengan cara yang tidak bersembunyi di balik jargon teknis.  
• Transparansi berarti bahwa sistem AI harus menyertakan dan berbagi informasi tentang bagaimana sistem tersebut dirancang dan dikembangkan serta data atau sumber data yang digunakan untuk memberi masukan pada sistem. 
• Kekokohan adalah kemampuan sistem AI untuk secara efektif menangani kondisi luar biasa, seperti kelainan pada input. Ini membantu memastikan keluaran yang konsisten.  

IBM Watsonx™, sebuah platform AI, data, dan tata kelola yang terintegrasi, mewujudkan prinsip-prinsip ini dengan menawarkan pendekatan yang lancar, efisien, dan bertanggung jawab terhadap pengembangan AI di berbagai lingkungan. Lebih khusus lagi, peluncuran baru-baru ini IBM® watsonx.governance™ membantu tim sektor publik mengotomatiskan dan mengatasi bidang-bidang ini, memungkinkan mereka mengarahkan, mengelola, dan memantau aktivitas AI organisasi mereka. Alat ini memfasilitasi proses yang jelas sehingga organisasi dapat secara proaktif mendeteksi dan memitigasi risiko sambil mendukung program kepatuhan mereka terhadap kebijakan AI internal dan standar industri.  

Ketika sektor publik terus memanfaatkan AI dan otomatisasi untuk memecahkan masalah dan meningkatkan efisiensi, menjaga kepercayaan dan transparansi dalam setiap solusi AI sangatlah penting. Tim harus memiliki kemampuan untuk memahami dan mengelola siklus hidup AI secara efektif. Penerapan praktik AI yang bertanggung jawab secara proaktif merupakan peluang bagi kita semua untuk menjadi lebih baik.  

Pelajari lebih lanjut tentang AI yang dapat mengubah layanan pemerintah