Pengembangan AI “Benar-Benar Ceroboh” Diklaim Akademisi AS

Sistem AI menimbulkan ancaman nyata bagi masyarakat, dengan laju pembangunan yang terus berlanjut “benar-benar ceroboh”, menurut seorang akademisi AS.

Komentar tersebut bertepatan dengan dirilisnya laporan peringatan baru yang ditulis oleh 23 pakar senior. Laporan “Mengelola Resiko AI di Era Kemajuan Pesat” yang dirilis pada hari Selasa, memperingatkan akan meningkatnya ketidakadilan, terkikisnya stabilitas sosial, dan berakhirnya pemahaman kita tentang realitas.

Resiko yang besar

Sekelompok AI para ahli, termasuk dua “bapak baptis” di bidang ini, berada di balik laporan baru yang memperingatkan bahaya teknologi ini.

Stuart Russell, profesor ilmu komputer di Universitas California, Berkeley, termasuk di antara para ahli yang ikut menulis dokumen tersebut.

“Sudah waktunya untuk serius dengan sistem AI yang canggih,” kata Russell Penjaga on Selasa. “Ini bukan mainan. Meningkatkan kemampuan mereka sebelum kita memahami bagaimana membuat mereka aman adalah tindakan yang sangat sembrono. Ada lebih banyak peraturan di toko sandwich dibandingkan dengan perusahaan AI.”

Rekan penulis dokumen ini adalah Geoffrey Hinton dan Yoshua Bengio, yang dianggap sebagai dua dari tiga “bapak baptis AI.” Pada tahun 2018, mereka memenangkan ACM Turing Award atas karya mereka pada topik tersebut.

Grafik melaporkan memberikan hasil yang mengkhawatirkan, dengan menyebutkan sejumlah potensi kendala seiring dengan kemajuan kecerdasan buatan. Salah satu kekhawatiran yang diangkat oleh penulis adalah potensi teknologi yang hampir tidak terbatas, yang bahkan dapat berkembang melampaui pemahaman kita.

“Tidak ada alasan mendasar mengapa kemajuan AI akan melambat atau terhenti pada tingkat manusia,” kata laporan tersebut.

Para penulis menunjukkan bahwa dalam domain sempit seperti pelipatan protein atau permainan strategi, AI sudah melampaui manusia. Laporan tersebut selanjutnya menambahkan bahwa “kita harus menganggap serius kemungkinan bahwa sistem AI generalis akan mengungguli kemampuan manusia di banyak bidang penting dalam dekade ini atau dekade mendatang.”

AI dibangun oleh AI

Meskipun sistem AI saat ini memiliki otonomi yang terbatas, upaya untuk mengubahnya sedang dilakukan. Beberapa sistem AI bahkan membangun dan memprogram dirinya sendiri, yang mengarah pada kemungkinan AI dibangun AI.

Sistem tersebut dapat mencapai tujuan yang tidak dapat diantisipasi oleh manusia.

Sebagaimana dinyatakan dalam laporan tersebut, “Saat sistem AI otonom mengejar tujuan yang tidak diinginkan, yang dilakukan oleh pelaku jahat atau secara tidak sengaja, kita mungkin tidak dapat mengendalikannya.”

“Sistem AI otonom yang canggih akan menimbulkan tantangan pengendalian yang belum pernah terjadi sebelumnya,” tambah para penulis. “Tanpa kehati-hatian yang memadai, kita mungkin kehilangan kendali atas sistem AI otonom, sehingga intervensi manusia menjadi tidak efektif.”

KTT AI

Laporan ini muncul ketika para pemimpin AI bersiap untuk bertemu di Bletchley Park bulan depan.

Juru bicara pemerintah Inggris mengatakan bahwa perundingan tersebut ditujukan untuk “negara-negara yang memiliki pemikiran serupa dan memiliki pemahaman yang sama bahwa AI menghadirkan peluang yang signifikan namun menyadari bahwa kita perlu memastikan adanya batasan yang tepat.”

Menurut Perdana Menteri Inggris Rishi Sunak, “Inggris mempunyai posisi yang tepat untuk memimpin dan membentuk pembicaraan mengenai hal ini karena kami sangat kuat dalam hal AI.”

Para kritikus mempertanyakan apakah Inggris mempunyai modal politik yang diperlukan untuk memberikan pengaruh nyata terhadap perusahaan-perusahaan teknologi besar dan pemerintah internasional.

Perdana Menteri Italia Giorgia Meloni adalah satu-satunya pemimpin G7 yang dikonfirmasi menerima undangan Sunak, sementara Perdana Menteri Kanada Justine Trudeau, Kanselir Jerman Olaf Scholz, dan Presiden AS Joe Biden telah menyampaikan alasan mereka.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://metanews.com/ai-development-utterly-reckless-claims-u-s-academic/