Konten yang diberi watermark masih belum cukup untuk membedakan antara konten asli dan konten buatan AI, karena penjahat dunia maya juga dapat melewati fitur keamanan.
Hal ini terjadi seiring dengan meningkatnya adopsi teknologi AI, khususnya AI generatif, sehingga menciptakan lahan subur bagi individu yang tidak bermoral untuk menggunakannya untuk menyebarkan informasi yang salah, kebencian, dan bentuk konten berbahaya lainnya.
Dan watermarking telah muncul sebagai salah satu solusi utama untuk membedakan antara konten buatan AI dan konten kehidupan nyata. Namun ia juga memiliki kekurangan.
Baca juga: Audio2Photoreal Meta Sekarang Memungkinkan Avatar Fotorealistik Bertenaga Suara
Manipulasi
Para ahli mengatakan pertumbuhan AI juga terjadi ketika pelaku kejahatan memanfaatkan teknologi tersebut untuk menyebarkan disinformasi dan kebencian serta menimbulkan kepanikan dengan berita palsu.
Meskipun watermarking telah diidentifikasi untuk memungkinkan pengguna membedakan antara konten buatan AI dan konten asli buatan manusia, hal tersebut juga rentan terhadap manipulasi.
Menurut Pendaftaran, beberapa tanda tangan yang terlihat, seperti model teks-ke-gambar Dall-E, adalah salah satu cara termudah untuk melewati alat deteksi AI. Artikel tersebut lebih lanjut menyatakan bahwa individu yang tidak bermoral dapat memotong tanda air atau menyalin gambar dengan cara yang tidak memerlukan pengunduhan langsung.
Seorang profesor ilmu komputer di Universitas Buffalo di AS, Siwei Lyu, mengatakan ada juga pakar dalam hal mendobrak hambatan tersebut.
“Teknologi watermarking telah digunakan dengan sangat hati-hati karena tidak sulit bagi seseorang yang memiliki pengetahuan tentang watermark dan AI untuk dapat memecahkannya dan menghilangkan watermark tersebut atau membuatnya,” kata Lyu.
Pakar AI dan direktur eksekutif untuk organisasi nirlaba yang membantu masyarakat menggunakan teknologi untuk mempromosikan hak asasi manusia, Sam Gregory, berpikir watermarking masih dapat dimanipulasi oleh pihak yang tidak bertanggung jawab.
Baginya, ini adalah “alat triase untuk pengurangan dampak buruk,” dan menambahkan bahwa “ini bukan solusi 100%.”
Jenis-jenis tanda air
Namun, tidak semuanya menyenangkan bagi aktor yang tidak bermoral dan jahat. Beberapa tanda air yang tidak terlihat, seperti milik Google DeepMind SynthID, sulit untuk dihilangkan karena “tertanam langsung ke keluaran sistem Imagen”.
Watermark semacam ini tidak dapat dilihat dengan mata telanjang tetapi dapat dideteksi menggunakan software atau algoritma khusus.
Lyu, bagaimanapun, masih berpikir bahwa mungkin saja bagi bajingan yang memiliki “pengetahuan teknis untuk menghilangkannya.”
“Saya pikir tanda air sebagian besar mempermainkan ketidaksadaran orang akan keberadaannya. Jadi, kalau mereka tahu bisa, mereka akan mencari cara untuk memecahkannya,” kata Lyu.
Jenis tanda air lainnya adalah tanda air yang terlihat, yang ditambahkan ke video, teks, atau gambar oleh perusahaan seperti Google, Getty, dan OpenAI untuk memverifikasi validitas konten.
Jenis tanda air yang ketiga adalah metadata kriptografi. Yang ini menunjukkan kapan konten dibuat dan bagaimana konten tersebut diedit.
Tanda air “Mencuci”.
Sebuah studi oleh Universitas Maryland yang dipimpin oleh Soheil Feizi, seorang profesor ilmu komputer, mengatakan tanda air AI tidak mudah dilakukan. Mereka menguji semua jenis tanda air dan “merusak semuanya”.
“Kami belum memiliki watermarking yang dapat diandalkan saat ini,” katanya.
Profesor tersebut juga menjelaskan betapa mudahnya bagi pelaku kejahatan untuk memanipulasi tanda air dalam apa yang dia gambarkan sebagai “menghilangkan” tanda air tersebut.
Studi lain yang ditulis bersama oleh peneliti di University of California, Santa Barbara, dan Carnegie Mellon juga mendapatkan temuan yang sama.
“Semua tanda air yang terlihat tidak dapat diandalkan,” membaca kertas.
Masalah yang sensitif terhadap waktu
Seorang staf Senat AS yang terlibat dalam penyusunan undang-undang terkait AI mengatakan kepada Fedscope tentang perlunya “mengikuti aktor-aktor jahat,” dan menambahkan bahwa Senat saat ini berada dalam era “pendidikan dan pendefinisian masalah”.
“Ini seperti atlet Olimpiade—sekarang saya tahu Anda sedang mencari obat ini, saya akan minum obat lain.”
Dengan banyak negara pergi ke tempat pemungutan suara tahun ini, kebutuhan akan langkah-langkah untuk meminimalkan kesalahan informasi (deepfake) dan misinformasi tidak dapat diabaikan. September lalu, Pemimpin Mayoritas Senat Chuck Schumer mengatakan bahwa mengatasi keaslian konten adalah a masalah yang sensitif terhadap waktu mengingat pemilu sudah dekat di banyak negara.
“Ada isu mengenai deepfake, di mana orang-orang benar-benar percaya… bahwa seorang kandidat mengatakan sesuatu padahal mereka benar-benar ciptaan AI,” katanya setelah pidato pertamanya. wawasan AI pintu tertutup forum.
Perusahaan teknologi menerima tantangan ini
Sementara itu, Koalisi untuk Asal dan Keaslian Konten (C2PA), yang merupakan gagasan dari perusahaan media dan teknologi, kini telah terbentuk. Ini mengidentifikasi sumber gambar, apakah itu kamera atau program AI yang digunakan untuk membuatnya.
Ini juga memberikan rincian tentang waktu, lokasi, dan metode pembuatan gambar, sehingga memungkinkan orang untuk memverifikasi asal-usulnya. TikTok dilaporkan menjadi salah satu perusahaan teknologi terkemuka yang memimpin dalam penerapan watermarking.
“TikTok menunjukkan trek audio yang digunakan; itu menunjukkan jahitan yang dibuat; ini menunjukkan kepada Anda efek AI yang digunakan,” kata Gregory.
besar lainnya perusahaan teknologi seperti Alphabet, Amazon, Meta, dan OpenAI tahun lalu berjanji untuk mengembangkan teknologi watermarking untuk mengatasi misinformasi.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :memiliki
- :adalah
- :bukan
- :Di mana
- 8
- 9
- a
- Sanggup
- aktor
- sebenarnya
- menambahkan
- menambahkan
- Adopsi
- Keuntungan
- Setelah
- AI
- algoritma
- Semua
- Membiarkan
- memungkinkan
- Alfabet
- juga
- Amazon
- antara
- an
- dan
- Lain
- Apa pun
- ADALAH
- sekitar
- artikel
- AS
- At
- audio
- keaslian
- Buruk
- hambatan
- BE
- karena
- menjadi
- antara
- Besar
- Istirahat
- Melanggar
- Kerbau
- tapi
- by
- memotong
- california
- kamar
- CAN
- calon
- tidak bisa
- Carnegie Mellon
- Menyebabkan
- usapan
- koalisi
- datang
- Perusahaan
- komputer
- Komputer Ilmu
- Konten
- Sudut
- negara
- membuat
- dibuat
- membuat
- penciptaan
- tanaman
- kriptografi
- Sekarang
- penjahat cyber
- dall's
- deepfakes
- mendefinisikan
- dijelaskan
- rincian
- terdeteksi
- Deteksi
- mengembangkan
- sulit
- langsung
- langsung
- Kepala
- disinformasi
- membedakan
- Dont
- obat
- termudah
- Mudah
- efek
- Pemilihan
- muncul
- aktif
- cukup
- Era
- terutama
- eksekutif
- Direktur Eksekutif
- ahli
- ahli
- menjelaskan
- mata
- gadungan
- berita palsu
- Fitur
- Menemukan
- Temuan
- perusahaan
- Pertama
- Untuk
- bentuk
- forum
- lebih lanjut
- generatif
- AI generatif
- mendapatkan
- diberikan
- memberikan
- akan
- Tanah
- Pertumbuhan
- Pertumbuhan
- memiliki
- Sulit
- membahayakan
- benci
- Memiliki
- memiliki
- he
- membantu
- dia
- -nya
- Seterpercayaapakah Olymp Trade? Kesimpulan
- Namun
- HTTPS
- manusia
- hak asasi manusia
- i
- SAYA AKAN
- diidentifikasi
- mengidentifikasi
- if
- gambar
- gambar
- in
- individu
- ke
- gaib
- terlibat
- isu
- IT
- NYA
- hanya
- kunci
- Jenis
- Tahu
- pengetahuan
- Terakhir
- Tahun lalu
- memimpin
- pemimpin
- Dipimpin
- Perundang-undangan
- 'like'
- tempat
- mencari
- terbuat
- Mayoritas
- jahat
- dimanipulasi
- manipulasi
- banyak
- Maryland
- sementara itu
- ukuran
- Media
- Mellon
- meta
- Metadata
- metode
- memperkecil
- Keterangan yg salah
- model
- kebanyakan
- Perlu
- berita
- nirlaba
- organisasi nirlaba
- sekarang
- of
- Olimpiade
- on
- ONE
- OpenAI
- or
- organisasi
- Lainnya
- di luar
- output
- Perdamaian
- Panik
- kertas
- Konsultan Ahli
- orang
- Fotorealistik
- Tempat
- plato
- Kecerdasan Data Plato
- Data Plato
- Bermain
- Titik
- mungkin
- Profesor
- program
- mendorong
- asal
- Baca
- nyata
- benar-benar
- pengurangan
- dapat diandalkan
- menghapus
- kabarnya
- peneliti
- Membersihkan
- hak
- Cerah
- Tersebut
- garam
- Universitas
- sama
- Santa
- santa barbara
- mengatakan
- mengatakan
- Ilmu
- keamanan
- terlihat
- Senat
- September
- kekurangan
- Pertunjukkan
- Tanda tangan
- So
- Perangkat lunak
- larutan
- Solusi
- beberapa
- Seseorang
- sesuatu
- sumber
- khusus
- perangkat lunak khusus
- penyebaran
- Negara
- Masih
- Belajar
- seperti itu
- sistem
- memecahkan
- mengatasi
- Mengambil
- pengambilan
- tech
- perusahaan teknologi
- Teknologi
- Teknologi
- diuji
- teks
- bahwa
- Grafik
- Sumber
- mereka
- Mereka
- Sana.
- mereka
- berpikir
- berpikir
- Ketiga
- ini
- tahun ini
- Melalui
- Tiktok
- waktu
- untuk
- mengatakan
- terlalu
- alat
- puncak
- SAMA SEKALI
- jalur
- triase
- mengetik
- jenis
- universitas
- University of California
- University of Maryland
- us
- Senat AS
- menggunakan
- bekas
- Pengguna
- menggunakan
- memeriksa
- Video
- terlihat
- adalah
- cap air
- Watermarking
- watermark
- Cara..
- cara
- Apa
- ketika
- apakah
- yang
- akan
- dengan
- tahun
- namun
- kamu
- zephyrnet.dll