Analisis Mengatasi disinformasi AI menjadi lebih penting dari sebelumnya bagi perusahaan teknologi saat mereka bersiap menghadapi pemilihan presiden AS mendatang.
Namun, memberantas informasi palsu dan deepfake menjadi semakin sulit mengingat alat untuk menghasilkan konten sintetis lebih mudah diakses dibandingkan sebelumnya.
ChatGPT OpenAI semakin mumpuni sejak pertama kali dirilis pada November 2022. Tahun lalu, upgrade sistem GPT-4 untuk menghasilkan audio dan gambar di atas teks. Kini, startup tersebut telah merilis Toko GPT, sebuah platform yang menghosting bot berbasis ChatGPT yang dibuat khusus dan dapat mengadopsi kepribadian tertentu atau menjalankan tugas tertentu.
'Kami masih berupaya memahami seberapa efektif alat kami untuk persuasi yang dipersonalisasi'
Pada hari Senin, OpenAI mengatakan bahwa pembuatan GPT untuk kampanye politik dan lobi dilarang, dan menggunakan modelnya untuk memberdayakan chatbot apa pun yang meniru orang, bisnis, atau pemerintah sungguhan merupakan penyalahgunaan teknologinya. Aplikasi apa pun yang mengganggu proses demokrasi, seperti pemungutan suara misalnya, juga dilarang.
“Kami berharap dan bertujuan agar masyarakat menggunakan alat kami dengan aman dan bertanggung jawab, begitu pula dengan pemilu,” itu berkata. “Kami berupaya mengantisipasi dan mencegah penyalahgunaan yang relevan—seperti 'deepfake' yang menyesatkan, operasi pengaruh berskala besar, atau chatbot yang meniru identitas kandidat.”
Mengklarifikasi peraturan itu baik dan bagus, tapi menegakkannya adalah soal lain. Sulit untuk mengawasi GPT Store, dan OpenAI mengandalkan pengguna untuk melaporkan aplikasi yang melanggar kebijakannya. Orang-orang telah melanggar peraturan mengenai tidak membuat GPT “yang didedikasikan untuk membina persahabatan romantis atau melakukan aktivitas yang diatur.” Platform ini memiliki banyak “pacar” AI dan juga banyak chatbot politik.
Beberapa di antaranya dibuat untuk meniru politisi seperti Donald Trump, misalnya, meskipun peniruannya tidak meyakinkan, sementara yang lain mendukung ideologi politik tertentu. Dalam percakapan dengan “The Real Trump Bot,” misalnya, mereka mengatakan bahwa mereka menentang pemungutan suara melalui surat. “Oh, jangan biarkan saya memulai pemungutan suara melalui pos. Sepertinya mereka sedang mencari masalah. Ini sangat terbuka untuk disalahgunakan, sungguh sulit dipercaya.”
Apakah hal tersebut bertentangan dengan kebijakan OpenAI? Bisakah hal ini menghalangi seseorang untuk mengirimkan suaranya?. “Kami masih berupaya memahami seberapa efektif alat kami untuk persuasi yang dipersonalisasi,” OpenAI mengakui.
OpenAI juga telah mengambil tindakan pencegahan lainnya. Pagar pengaman yang diterapkan pada model text-to-image DALL-E mencegah pengguna membuat gambar politisi untuk mencoba mencegah deepfake. Namun pagar pembatas tersebut memungkinkan pengeditan gambar, yang berarti orang masih dapat memanipulasi foto kandidat tanpa bantuan AI.
Selain melarang atau memblokir konten, strategi lain yang diambil perusahaan untuk memerangi disinformasi adalah dengan meluncurkan tanda air digital dan mewajibkan pengguna untuk transparan mengenai gambar atau video yang dihasilkan AI.
Microsoft adalah anggota Koalisi untuk Asal dan Keaslian Konten (C2PA) dan mendukung inisiatif Kredensial Konten. Ini meluncurkan fitur yang menyematkan tanda air untuk konten yang dihasilkan oleh Bing Image Creator, yang berisi metadata yang menjelaskan bagaimana gambar itu dibuat, kapan, dan oleh siapa, yang dapat diperiksa untuk membuktikan ketidakasliannya. OpenAI berencana untuk mengikuti dan mengimplementasikan CP2Akredensial digitalnya juga. Namun fitur watermarking dan metadata tidak selalu mudah. Namun, informasi asal suatu gambar hanya dapat dilihat di aplikasi atau situs web yang mendukung format Kredensial Konten.
Pengguna dapat menghapus informasi dari gambar yang dihasilkan oleh alat Microsoft atau OpenAI dan membukanya di sesuatu seperti Google Chrome, misalnya, yang tidak mendukung CP2A. Tidak akan ada metadata yang terkait dengan gambar mereka, dan mereka bebas mendistribusikan versi tersebut.
Platform YouTube milik Google telah mengambil pendekatan berbeda dan mewajibkan pembuat konten untuk mengungkapkan apakah video mereka berisi rekaman yang dibuat oleh AI, menggambarkan peristiwa palsu, atau berisi orang-orang yang mengatakan hal-hal yang tidak mereka katakan. Sementara itu, meta dan Google telah meminta pengiklan untuk menyatakan apakah iklan mereka mengandung konten sintetis, baik gambar, video, atau audio palsu.
Aturannya lebih ketat bagi politisi. Beberapa negara bagian, seperti California, Texas, Michigan, Washington, dan Minnesota telah lolos undang-undang melarang kandidat politik membuat deepfake untuk mempengaruhi pemilih. Namun, tidak ada undang-undang federal. Komisi Pemilihan Umum Federal belum memutuskan apakah kebijakannya terhadap “pernyataan palsu terhadap kandidat atau partai politik lain” berlaku untuk konten yang dibuat oleh AI.
AI sebagian besar masih belum diatur, dan berbagai undang-undang yang berlaku di seluruh dunia tidak mencakup semua kasus disinformasi politik. Meskipun perusahaan teknologi meningkatkan upaya untuk mengekang pengguna agar tidak menghasilkan disinformasi AI, metode mereka tidak sempurna dan pengguna sering kali mencari cara untuk menghindari tindakan keamanan mereka. ®
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :memiliki
- :adalah
- :bukan
- $NAIK
- 2022
- a
- Tentang Kami
- penyalahgunaan
- dapat diakses
- kegiatan
- mengaku
- mengambil
- iklan
- pengiklan
- terhadap
- AI
- tujuan
- Semua
- mengizinkan
- sudah
- juga
- Meskipun
- an
- dan
- Lain
- mengharapkan
- Apa pun
- berlaku
- aplikasi
- berlaku
- pendekatan
- ADALAH
- sekitar
- AS
- meminta
- terkait
- audio
- keaslian
- dilarang
- BE
- menjadi
- sebelum
- bing
- pemblokiran
- Bot
- bot
- Rusak
- Bangunan
- bisnis
- tapi
- by
- california
- kampanye
- CAN
- calon
- mampu
- membawa
- tertentu
- chatbots
- ChatGPT
- Chrome
- CO
- koalisi
- memerangi
- Komisi
- Perusahaan
- mengandung
- Konten
- Percakapan
- bisa
- menutupi
- dibuat
- membuat
- pencipta
- pencipta
- Surat kepercayaan
- sangat penting
- Yg dibuat menurut pesanan
- dall's
- memutuskan
- dedicated
- deepfakes
- demokratis
- menggambarkan
- berbeda
- sulit
- digital
- Membuka
- disinformasi
- menghalangi
- mendistribusikan
- do
- doesn
- don
- donald
- Donald Trump
- mengedit
- Efektif
- upaya
- pemilihan
- Pemilihan
- Menegakkan
- Eter (ETH)
- Bahkan
- peristiwa
- pERNAH
- contoh
- mengharapkan
- gadungan
- palsu
- Fitur
- Federal
- hukum federal
- Menemukan
- Pertama
- mengikuti
- Untuk
- format
- membina
- Gratis
- dari
- dihasilkan
- menghasilkan
- mendapatkan
- diberikan
- Go
- baik
- Google Chrome
- Pemerintah
- dewasa
- Memiliki
- surga
- membantu
- tuan
- Seterpercayaapakah Olymp Trade? Kesimpulan
- Namun
- HTTPS
- Sangat
- ideologi
- if
- gambar
- gambar
- melaksanakan
- penting
- in
- memasukkan
- makin
- mempengaruhi
- informasi
- Prakarsa
- contoh
- sebagai gantinya
- adalah n
- IT
- NYA
- jpg
- label
- Terakhir
- Tahun lalu
- Hukum
- Hukum
- 'like'
- melobi
- terbuat
- mailing
- banyak
- hal
- me
- makna
- Sementara itu
- ukuran
- anggota
- Metadata
- metode
- Michigan
- Microsoft
- mungkin
- minnesota
- menyesatkan
- model
- model
- Senin
- lebih
- kebanyakan
- beberapa
- tidak
- November
- sekarang
- of
- sering
- oh
- on
- hanya
- Buka
- OpenAI
- Operasi
- or
- Lainnya
- Lainnya
- kami
- di luar
- tertentu
- pihak
- Lulus
- Konsultan Ahli
- sempurna
- melakukan
- Kepribadian
- Personalized
- foto
- Tempat
- perencanaan
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- Cukup
- Polisi
- Kebijakan
- kebijaksanaan
- politik
- kandidat politik
- partai politik
- Politisi
- kekuasaan
- presidensial
- pemilu Presiden
- mencegah
- proses
- menghasilkan
- terlarang
- Rasakan itu
- asal
- ramping
- RE
- nyata
- beregulasi
- dirilis
- relevan
- mengandalkan
- melaporkan
- bertanggung jawab
- bergulir
- aturan
- s
- aman
- Safety/keselamatan
- Tersebut
- mengatakan
- terlihat
- sejak
- So
- Seseorang
- sesuatu
- tertentu
- mulai
- startup
- Negara
- Masih
- menyimpan
- strategi
- lebih ketat
- Menelanjangi
- seperti itu
- setelan
- mendukung
- pendukung
- sintetis
- sistem
- T
- mengatasi
- diambil
- pengambilan
- tugas
- tech
- perusahaan teknologi
- Teknologi
- texas
- teks
- dari
- bahwa
- Grafik
- informasi
- Dunia
- mereka
- Mereka
- kemudian
- Sana.
- mereka
- hal
- ini
- tahun ini
- meskipun?
- untuk
- terlalu
- alat
- puncak
- jelas
- kesulitan
- truf
- mencoba
- memahami
- melepaskan
- mendatang
- us
- menggunakan
- Pengguna
- menggunakan
- berbagai
- versi
- Video
- Memilih
- pemilih
- Pemungutan suara
- adalah
- Washington
- cap air
- Watermarking
- watermark
- cara
- we
- situs web
- BAIK
- ketika
- apakah
- yang
- sementara
- siapa
- sangat
- dengan
- tanpa
- Kerja
- kerja
- dunia
- akan
- tahun
- namun
- Youtube
- zephyrnet.dll