Bagaimana 'AI-tokrasi' muncul

Bagaimana 'AI-tokrasi' muncul

Stempel Waktu: 14 Juli 2023 3:12
Node Sumber: 2766622
14 Juli 2023 (Berita Nanowerk) Banyak pakar, analis, dan pengamat lain berpendapat bahwa penolakan terhadap inovasi adalah kelemahan rezim otoriter. Pemerintahan seperti ini bisa saja gagal mengikuti perubahan teknologi yang membantu lawan-lawannya; dengan mengekang hak-hak, hal ini juga dapat menghambat kegiatan ekonomi inovatif dan melemahkan kondisi negara dalam jangka panjang. Namun studi baru yang dipimpin oleh seorang profesor MIT menunjukkan sesuatu yang berbeda. Penelitian ini menemukan bahwa di Tiongkok, pemerintah semakin banyak mengerahkan tenaganya kecerdasan buatan didorong oleh teknologi pengenalan wajah untuk menekan perbedaan pendapat; telah berhasil membatasi protes; dan dalam prosesnya, telah mendorong pengembangan alat pengenalan wajah berbasis AI dan bentuk perangkat lunak lainnya yang lebih baik. “Apa yang kami temukan adalah bahwa di wilayah Tiongkok yang lebih banyak terjadi kerusuhan, hal ini mengarah pada pengadaan AI pengenalan wajah yang lebih besar oleh pemerintah, yang selanjutnya dilakukan oleh unit pemerintah daerah seperti departemen kepolisian kota,” kata ekonom MIT Martin Beraja, yang merupakan rekan -penulis makalah baru yang merinci temuannya. Hal selanjutnya, sebagaimana dicatat dalam makalah tersebut, adalah bahwa “inovasi AI memperkuat rezim, dan investasi rezim pada AI untuk kontrol politik merangsang inovasi lebih lanjut.” Para ahli menyebut keadaan ini sebagai “tokrasi AI,” yang menggambarkan siklus terhubung di mana peningkatan penerapan teknologi berbasis AI akan memadamkan perbedaan pendapat sekaligus meningkatkan kapasitas inovasi negara. AI-Tokrasi Ekonom MIT Martin Beraja adalah salah satu penulis makalah penelitian baru yang menunjukkan bahwa peningkatan investasi Tiongkok dalam teknologi pengenalan wajah berbasis AI membantu rezim tersebut menekan perbedaan pendapat dan mungkin mendorong kemajuan teknologi, sebuah kondisi yang saling memperkuat yang oleh penulis makalah tersebut disebut sebagai “AI -Tokrasi.” (Gambar: Jose-Luis Olivares/MIT dengan angka dari iStock) Makalah akses terbuka muncul di Quarterly Journal of Economics (“AI-tocracy”). Rekan penulisnya adalah Beraja, yang merupakan Pentti Kouri Career Development Associate Professor of Economics di MIT; Andrew Kao, kandidat doktor bidang ekonomi di Universitas Harvard; David Yang, seorang profesor ekonomi di Harvard; dan Noam Yuchtman, profesor manajemen di London School of Economics. Untuk melakukan penelitian ini, para ilmuwan memanfaatkan berbagai jenis bukti selama satu dekade terakhir. Untuk mengkatalogkan contoh-contoh kerusuhan politik di Tiongkok, mereka menggunakan data dari Proyek Basis Data Global untuk Peristiwa, Bahasa, dan Nada (GDELT), yang mencatat sumber berita secara global. Tim ini menemukan 9,267 insiden kerusuhan antara tahun 2014 dan 2020. Para peneliti kemudian memeriksa catatan hampir 3 juta kontrak pengadaan yang dikeluarkan oleh pemerintah Tiongkok antara tahun 2013 dan 2019, dari database yang dikelola oleh Kementerian Keuangan Tiongkok. Mereka menemukan bahwa pengadaan layanan AI pengenalan wajah dan alat keamanan publik pelengkap – kamera video resolusi tinggi – melonjak secara signifikan pada kuartal ini setelah terjadi kerusuhan masyarakat di wilayah tersebut. Mengingat pejabat pemerintah Tiongkok dengan jelas menanggapi aktivitas perbedaan pendapat di masyarakat dengan meningkatkan teknologi pengenalan wajah, para peneliti kemudian mengkaji pertanyaan lanjutan: Apakah pendekatan ini berhasil menekan perbedaan pendapat? Para peneliti percaya bahwa hal tersebut memang terjadi, meskipun seperti yang mereka tulis di makalah, mereka “tidak dapat memperkirakan secara langsung dampak” teknologi terhadap kerusuhan politik. Namun sebagai salah satu cara untuk menjawab pertanyaan tersebut, mereka mempelajari hubungan antara cuaca dan kerusuhan politik di berbagai wilayah di Tiongkok. Kondisi cuaca tertentu kondusif terhadap kerusuhan politik. Namun di prefektur di Tiongkok yang telah banyak berinvestasi dalam teknologi pengenalan wajah, kondisi cuaca seperti itu kurang kondusif terhadap kerusuhan dibandingkan dengan prefektur yang belum melakukan investasi serupa. Dalam melakukan hal ini, para peneliti juga mempertimbangkan isu-isu seperti apakah tingkat kekayaan relatif yang lebih besar di beberapa wilayah mungkin telah menghasilkan investasi yang lebih besar dalam teknologi berbasis AI, terlepas dari pola protesnya. Namun, para ilmuwan masih mencapai kesimpulan yang sama: Teknologi pengenalan wajah digunakan sebagai respons terhadap protes di masa lalu, dan kemudian mengurangi tingkat protes lebih lanjut. “Hal ini menunjukkan bahwa teknologi ini efektif dalam meredam kerusuhan,” kata Beraja. Yang terakhir, tim peneliti mempelajari dampak peningkatan permintaan AI terhadap sektor teknologi Tiongkok dan menemukan bahwa penggunaan alat pengenalan wajah yang lebih besar oleh pemerintah tampaknya mendorong kemajuan sektor teknologi Tiongkok. Misalnya, perusahaan yang mendapatkan kontrak pengadaan teknologi pengenalan wajah kemudian memproduksi sekitar 49 persen lebih banyak produk perangkat lunak dalam dua tahun setelah mendapatkan kontrak pemerintah dibandingkan sebelumnya. “Kami mengkaji apakah hal ini mengarah pada inovasi yang lebih besar oleh perusahaan AI pengenalan wajah, dan memang demikian,” kata Beraja. Data tersebut – dari Kementerian Perindustrian dan Teknologi Informasi Tiongkok – juga menunjukkan bahwa alat-alat yang digerakkan oleh AI belum tentu “menyingkirkan” jenis inovasi teknologi tinggi lainnya. Ditambah lagi, kasus Tiongkok menunjukkan bagaimana pemerintahan otokratis berpotensi mencapai keadaan mendekati keseimbangan di mana kekuatan politik mereka ditingkatkan, bukannya terbalik, ketika mereka memanfaatkan kemajuan teknologi. “Di era AI ini, ketika teknologi tidak hanya menghasilkan pertumbuhan tetapi juga merupakan teknologi penindasan, teknologi tersebut bisa sangat berguna” bagi rezim otoriter, kata Beraja. Temuan ini juga menjawab pertanyaan yang lebih besar mengenai bentuk pemerintahan dan pertumbuhan ekonomi. Sejumlah besar penelitian ilmiah menunjukkan bahwa lembaga-lembaga demokrasi yang memberikan hak asasi memang menghasilkan pertumbuhan ekonomi yang lebih besar dari waktu ke waktu, salah satunya dengan menciptakan kondisi yang lebih baik untuk inovasi teknologi. Beraja mencatat bahwa penelitian yang dilakukan saat ini tidak bertentangan dengan temuan-temuan sebelumnya, namun dalam mengkaji dampak penggunaan AI, penelitian ini mengidentifikasi satu jalan yang dapat digunakan oleh pemerintah otoriter untuk menghasilkan pertumbuhan yang lebih besar dibandingkan jika tidak dilakukan. “Hal ini dapat menyebabkan institusi otokratis berkembang seiring dengan pertumbuhan,” tambah Beraja. Pakar lain dalam penerapan AI di masyarakat mengatakan bahwa makalah ini memberikan kontribusi yang berharga di bidang ini. “Ini adalah makalah yang sangat bagus dan penting yang meningkatkan pemahaman kita tentang interaksi antara teknologi, kesuksesan ekonomi, dan kekuatan politik,” kata Avi Goldfarb, Ketua Rotman bidang Kecerdasan Buatan dan Layanan Kesehatan dan profesor pemasaran di Rotman School of Management di Universitas Toronto. “Makalah ini mendokumentasikan umpan balik positif antara penggunaan teknologi pengenalan wajah AI untuk memantau penindasan kerusuhan lokal di Tiongkok dan pengembangan serta pelatihan model AI. Makalah ini memelopori penelitian di bidang AI dan ekonomi politik. Seiring dengan menyebarnya AI, saya berharap bidang penelitian ini semakin penting.” Sementara itu, para ilmuwan terus meneliti aspek-aspek terkait masalah ini.

Stempel Waktu:

Lebih dari Nanowerk