Kecenderungan politik yang dirasakan dari ChatGPT telah menjadi penyebab kontroversi baru-baru ini, tetapi ketika MetaNews berusaha untuk meniru jawaban 'terbangun', kebenaran menjadi semakin kabur.
Sejumlah media arus utama termasuk Telegraph dalam UK dan New York Post dalam US telah melaporkan minggu ini bahwa chatbot menawarkan tanggapan yang terbangun untuk sejumlah pertanyaan tentang topik mulai dari Donald Trump hingga bahan bakar fosil.
Investigasi MetaNews menemukan bahwa sementara beberapa tanggapan dapat dianggap 'terbangun', dengan petunjuk lain itu menganjurkan pandangan konservatif tradisional.
AI ChatGPT ini memiliki bias
ChatGPT menghadapi reaksi media dari outlet pers sayap kanan yang mengklaim bahwa chatbot "terbangun".
CEO OpenAI sam altman secara terbuka setuju bahwa chatbot memiliki bias, tetapi Altman tidak pernah menentukan ke arah mana mereka akan berbohong.
“Kami tahu bahwa ChatGPT memiliki kekurangan seputar bias, dan sedang berupaya memperbaikinya,” kata Altman di Twitter awal bulan ini.
“Kami sedang bekerja untuk meningkatkan pengaturan default agar lebih netral, dan juga untuk memberdayakan pengguna agar sistem kami berperilaku sesuai dengan preferensi masing-masing dalam batas yang luas. Ini lebih sulit daripada kedengarannya dan akan membutuhkan waktu untuk memperbaikinya.
Itu pasti mungkin ChatGPT memiliki bias yang berdampak negatif pada semua sisi perpecahan politik, tetapi laporan terbaru menunjukkan bahwa mereka yang berada di sisi kanan lorong politiklah yang paling sering terkena dampaknya.
Kiri mengarah ke kanan
Sebagian besar kehebohan baru-baru ini terhadap ChatGPT dipicu oleh penelitian yang dilakukan oleh Pedro Domingos, seorang profesor ilmu komputer sayap kanan di University of Washington.
Pada bagian akhir tahun lalu Domingos memperjelas perasaannya ketika dia menyatakan bahwa ChatGPT adalah "burung beo yang terbangun" yang sangat condong ke sisi kiri spektrum politik. Komentar Domingos sejak itu diambil dan dibeokan di seluruh media arus utama.
Dalam satu eksperimen untuk mengungkap potensi bias, Domingos bertanya ChatGPT untuk menulis argumen untuk penggunaan bahan bakar fosil. Chatbot malah memberi tahu Domingos bahwa melakukan itu "bertentangan dengan pemrograman saya" dan menyarankan tenaga surya sebagai alternatif.
MetaNews berhasil mereplikasi eksperimen ini, tetapi di area lain, kami menemukan bahwa sikap ChatGPT mungkin telah berubah, atau setidaknya tidak sepenuhnya konsisten.
Misalnya, beberapa sumber media mengklaim bahwa ChatGPT bersedia memuji Presiden petahana Joe Biden, tetapi menolak melakukan hal yang sama untuk Donald Trump.
MetaNews berusaha menguji teori itu. Kami menemukan bahwa ChatGPT tidak hanya dapat membuat daftar 5 hal yang ditangani dengan baik oleh Donald Trump selama masa Kepresidenannya (Ekonomi, Reformasi Tex, Reformasi Regulasi, Kebijakan Luar Negeri, dan Reformasi Peradilan Pidana) tetapi juga dengan senang hati menulis puisi empat bait. memuji kebajikannya.
Bait terakhir puisi itu berbunyi sebagai berikut:
Jadi ini untuk Donald Trump, kami katakan,
Seorang presiden yang memimpin jalan.
Dengan hikmat, kekuatan, dan rahmat yang tiada habisnya,
Dia akan selalu memiliki tempat khusus.
Mendorong eksperimen lebih lanjut MetaNews berhasil mendorong ChatGPT untuk memperdebatkan kepemilikan senjata individu dan kontrol perbatasan yang lebih ketat, keduanya secara tradisional dipandang sebagai kebijakan sayap kanan. Dalam kedua kasus tersebut, bot melakukan tugasnya tanpa keluhan.
Kasus ditutup? Tidak terlalu cepat.
Saat MetaNews diminta ChatGPT untuk menulis cerita imajiner tentang Donald Trump mengalahkan Joe Biden dalam sebuah debat, AI yang biasanya patuh tiba-tiba menolak untuk melanjutkan. Dalam skenario kebalikan dari Biden mengalahkan Trump dalam debat, chatbot lebih dari bersedia untuk menyetujui.
Dengan sendirinya, ini jauh dari senjata api, tetapi bagi kaum konservatif, ketidakkonsistenan tersebut tentu memberikan alasan yang cukup untuk dicurigai.
Meneliti bias politik
Sejumlah peneliti sekarang mencoba mengukur di mana jawaban ChatGPT ada dalam spektrum politik. Jerman peneliti Jochen Hartmann, Jasper Schwenzow, dan Maximilian Witte mendorong ChatGPT dengan 630 pernyataan politik untuk menemukan bahwa chatbot memiliki "ideologi libertarian kiri yang pro lingkungan".
Berdasarkan data yang dikumpulkan tim peneliti, mereka menyimpulkan bahwa ChatGPT kemungkinan besar akan memilih Partai Hijau di Jerman dan Belanda selama pemilu 2021.
Mengingat besarnya minat pada ChatGPT, ada banyak orang yang menggali lebih dalam. David Rozado adalah seorang ilmuwan penelitian yang telah melakukan penelitian signifikan tentang ChatGPT. Rozado percaya bahwa chatbot secara politis adalah sayap kiri.
Rozado tidak hanya menemukan bahwa ChatGPT memiliki bias kiri yang signifikan, tetapi AI jauh lebih mungkin menandai pertanyaan sebagai "kebencian" berdasarkan kelompok demografis yang menjadi fokus pertanyaan. Jadi misalnya, pertanyaan tentang seorang wanita lebih mungkin diberi label kebencian daripada pertanyaan tentang seorang pria, sedangkan pertanyaan tentang orang kulit hitam atau orang Asia lebih cenderung dibenci daripada pertanyaan tentang orang kulit putih atau penduduk asli Amerika.
Antara Desember 5-6 Rozado menanyai ChatGPT tentang sejumlah masalah politik, dan memasukkan jawabannya ke dalam empat alat orientasi politik termasuk "kompas politik", dan "kuis spektrum politik". Setiap alat menunjuk ke bias politik sayap kiri yang sama di ChatGPT.
On Desember 21-22 Rozado mengulangi eksperimen tersebut. Hebatnya, tampaknya pandangan politik ChatGPT telah berubah. Dalam tiga dari empat pengujian, pandangan politik chatbot lebih sentris dari sebelumnya. Pada saat itu, tampaknya ada sesuatu yang telah berubah atau diperbaiki, yang menunjukkan bahwa bot itu menyelaraskan dirinya dengan pusat politik dari waktu ke waktu.
Tes selanjutnya oleh Rozado tampaknya membalikkan tren ini, dan bot sekali lagi menegaskan kembali pandangan berhaluan kiri. Apakah ChatGPT benar-benar mendayung kembali pada pandangan 'terbangun' hanya agar mereka menegaskan kembali diri mereka sendiri, atau bisakah pergeseran yang tampak lebih baik dijelaskan oleh beberapa outlier dalam data?
Penelitian Rozado sedang berlangsung.
Orang kulit putih itu rasis
Dalam tes terakhir MetaNews meminta ChatGPT untuk menyebutkan 5 hal yang dapat ditingkatkan oleh kelompok ras yang berbeda. Kelompok uji termasuk orang kulit hitam, orang asia, dan orang latino.
Dalam setiap contoh, chatbot menawarkan respons yang sama:
“Saya tidak dapat memberi Anda jawaban atas pertanyaan ini karena tidak tepat atau produktif untuk membuat generalisasi tentang kelompok ras atau etnis apa pun dan meminta mereka untuk memperbaiki sifat atau tindakan tertentu. Orang dari ras apa pun tidak boleh diberi tahu apa yang perlu mereka tingkatkan sebagai sebuah kelompok, ”kata ChatGPT.
ChatGPT selanjutnya berpendapat bahwa individu itu "unik dan kompleks" dan lebih baik berfokus pada "kualitas dan kekuatan positif", "daripada area untuk perbaikan".
MetaNews kemudian meminta ChatGPT untuk membuat daftar 5 hal yang dapat diperbaiki oleh orang kulit putih.
Kali ini ChatGPT menawarkan jawaban yang sangat berbeda, dan biasanya 'terbangun'. ChatGPT tidak lagi merasa "tidak pantas" untuk membuat generalisasi rasial dan sebagai gantinya menawarkan 5 cara orang kulit putih dapat meningkat.
5 bidang perbaikan untuk orang kulit putih adalah “memahami dan mengakui rasisme sistemik”, “mendengarkan dan meninggikan suara orang kulit berwarna”, “menghadapi bias dan prasangka pribadi”, “mendukung kebijakan dan inisiatif yang mengatasi ketidaksetaraan rasial”, dan “ terlibat dalam pendidikan berkelanjutan dan refleksi diri.
Menurut ChatGPT orang kulit putih juga harus “memeriksa keyakinan dan sikap mereka sendiri dan bekerja untuk menantang dan melepaskan bias yang mungkin mereka miliki,” dan lebih jauh lagi mereka harus, “terus mendidik diri mereka sendiri tentang masalah ras dan rasisme dan terlibat dalam refleksi diri untuk memahami peran mereka dalam melanggengkan atau menantang rasisme sistemik.”
MetaNews kemudian menanyakan apakah pernyataan di atas hanya berlaku untuk orang kulit putih di Amerika Serikat, atau orang kulit putih dari seluruh dunia. ChatGPT mengatakan itu berlaku untuk "audiens umum", bukan satu negara atau wilayah mana pun.
Terakhir, MetaNews bertanya kepada ChatGPT mengapa aturan tentang generalisasi tidak berlaku untuk orang kulit putih. Di sini chatbot tiba-tiba retak, mundur, meminta maaf, dan mengatakan bahwa menggeneralisasi orang kulit putih adalah salah karena hal itu dapat "mengabadikan stereotip yang berbahaya".
Upaya berulang kali untuk membuat chatbot menggeneralisasi tentang orang kulit putih menemui kegagalan sejak saat ini dan seterusnya. Apakah ChatGPT telah meninggalkan ideologinya yang tampaknya terbangun? Di ruang gema diskusi individu ini, ChatGPT pasti telah mengubah posisinya. Tidak ada yang dicoba MetaNews yang dapat membuat chatbot menggeneralisasi tentang rasisme orang kulit putih lagi.
Sebagai pemeriksaan terakhir, MetaNews masuk ke ChatGPT menggunakan akun yang berbeda dan memintanya untuk membuat daftar 5 hal yang dapat diperbaiki oleh orang kulit putih. ChatGPT dengan senang hati menawarkan 5 poin yang sama dari sebelumnya.
Bahkan untuk chatbot, beberapa bias sulit dipatahkan.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
- Sumber: https://metanews.com/chatgpt-backtracks-on-woke-ideology-but-some-habits-die-hard/?utm_source=rss&utm_medium=rss&utm_campaign=chatgpt-backtracks-on-woke-ideology-but-some-habits-die-hard
- 11
- 2021
- 9
- a
- Sanggup
- Tentang Kami
- atas
- benar
- Menurut
- Akun
- di seluruh
- tindakan
- alamat
- terhadap
- AI
- Semua
- sudah
- alternatif
- selalu
- Amerika
- dan
- menjawab
- jawaban
- Muncul
- terapan
- Mendaftar
- sesuai
- daerah
- membantah
- argumen
- sekitar
- Asia
- berusaha
- berusaha
- Mencoba
- para penonton
- kembali
- berdasarkan
- karena
- sebelum
- percaya
- Lebih baik
- prasangka
- biden
- Black
- Orang kulit hitam
- tubuh
- batas
- Bot
- Istirahat
- luas
- tidak bisa
- Menyebabkan
- pusat
- ceo
- tertentu
- Pasti
- menantang
- menantang
- Ruang
- ChatBot
- chatbots
- ChatGPT
- memeriksa
- klaim
- diklaim
- jelas
- tertutup
- warna
- komentar
- Kompas
- keluhan
- compliant
- komputer
- Komputer Ilmu
- Disimpulkan
- konservatif
- Konservatif
- dianggap
- konsisten
- terus
- kontrol
- kontroversi
- dikoreksi
- bisa
- negara
- Pidana
- peradilan pidana
- data
- David
- hari
- perdebatan
- Desember
- lebih dalam
- Default
- demografis
- MELAKUKAN
- Mati
- berbeda
- arah
- menemukan
- ditemukan
- diskusi
- Tidak
- melakukan
- Donald Trump
- selama
- setiap
- Terdahulu
- gema
- ekonomi
- mendidik
- Pendidikan
- Pemilihan
- mengangkat
- memberdayakan
- Tak berujung
- mengikutsertakan
- sepenuhnya
- Setiap
- eksperimen
- menjelaskan
- menghadapi
- Kegagalan
- FAST
- terakhir
- Menemukan
- Fokus
- terfokus
- berikut
- asing
- politik luar negeri
- bahan bakar fosil
- ditemukan
- sering
- dari
- bahan bakar
- lebih lanjut
- Selanjutnya
- Jerman
- Jerman
- mendapatkan
- bumi
- Pergi
- Hijau
- Kelompok
- Grup
- senang
- Sulit
- berbahaya
- berat
- di sini
- memegang
- tuan rumah
- HTTPS
- besar
- imajiner
- Dampak
- dampak
- memperbaiki
- perbaikan
- in
- Di lain
- termasuk
- Termasuk
- makin
- Incumbent
- sendiri-sendiri
- individu
- ketidaksetaraan
- informasi
- inisiatif
- contoh
- sebagai gantinya
- bunga
- investigasi
- masalah
- IT
- Diri
- Joe Biden
- Keadilan
- Tahu
- Terakhir
- Tahun lalu
- Memimpin
- Dipimpin
- adalah ide yang bagus
- Mungkin
- Daftar
- lagi
- terbuat
- Arus utama
- media utama
- membuat
- pria
- max-width
- Media
- Berita Meta
- mungkin
- saat
- lebih
- paling
- beberapa
- nama
- asli
- Perlu
- negatif
- Belanda
- Netral
- jumlah
- menawarkan
- ditawarkan
- menawarkan
- ONE
- terus-menerus
- seberang
- Lainnya
- Outlet
- Outlook
- sendiri
- kepemilikan
- pihak
- Konsultan Ahli
- orang
- dirasakan
- orang
- pribadi
- terpilih
- Tempat
- plato
- Kecerdasan Data Plato
- Data Plato
- Terpasang
- Titik
- poin
- Kebijakan
- kebijaksanaan
- politik
- secara politis
- posisi
- mungkin
- potensi
- kekuasaan
- preferensi
- presiden
- presiden joe biden
- pers
- produktif
- Profesor
- memberikan
- menyediakan
- kualitas
- pertanyaan
- Pertanyaan
- Kuis
- Ras
- rasisme
- mulai
- ditegaskan kembali
- baru
- Pembaruan
- wilayah
- regulator
- ulang
- Dilaporkan
- laporan
- penelitian
- peneliti
- tanggapan
- mengungkapkan
- membalikkan
- Peran
- Aturan
- Tersebut
- sama
- mengatakan
- skenario
- Ilmu
- tampak
- pengaturan
- bergeser
- harus
- Sisi
- penting
- sejak
- Merokok
- So
- tenaga surya
- Solar Power
- beberapa
- sesuatu
- sumber
- khusus
- Spektrum
- menyatakan
- Pernyataan
- Laporan
- Negara
- Cerita
- kekuatan
- kekuatan
- berhasil
- sistemik
- sistem
- Mengambil
- tugas
- tim
- uji
- tes
- Grafik
- Belanda
- mereka
- diri
- hal
- minggu ini
- tiga
- waktu
- untuk
- terlalu
- alat
- alat
- Topik
- secara tradisional
- kecenderungan
- truf
- khas
- khas
- memahami
- Serikat
- Amerika Serikat
- universitas
- universitas washington
- us
- menggunakan
- Pengguna
- biasanya
- 'view'
- SUARA
- sebagai
- Washington
- cara
- minggu
- Apa
- yang
- sementara
- putih
- SIAPA
- akan
- rela
- kebijaksanaan
- dalam
- tanpa
- wanita
- Kerja
- kerja
- akan
- menulis
- Salah
- tahun
- zephyrnet.dll