Fitur AI generatif menimbulkan tantangan menarik bagi penerbit akademis untuk mengatasi penipuan dalam makalah sains karena teknologi tersebut menunjukkan potensi untuk mengelabui tinjauan sejawat manusia.
Jelaskan gambar untuk DALL-E, Stable Diffusion, dan Midjourney, dan mereka akan membuatnya dalam hitungan detik. Sistem teks-ke-gambar ini telah meningkat pesat selama beberapa tahun terakhir dan apa yang awalnya dimulai sebagai prototipe penelitian, menghasilkan hasil yang jinak dan sangat aneh. ilustrasi baby daikon lobak anjing berjalan pada tahun 2021, sejak itu telah berubah menjadi perangkat lunak komersial, dibangun oleh perusahaan bernilai miliaran dolar, yang mampu menghasilkan gambar yang semakin realistis.
Model AI ini dapat menghasilkan gambar wajah, objek, dan pemandangan manusia yang seperti aslinya, dan tampaknya hanya masalah waktu sebelum mereka mahir membuat gambar dan data ilmiah yang meyakinkan juga. Model teks-ke-gambar sekarang dapat diakses secara luas, cukup murah untuk digunakan, dan mereka dapat membantu para ilmuwan cerdik memalsukan hasil dan mempublikasikan penelitian palsu dengan lebih mudah.
Manipulasi gambar sudah menjadi perhatian utama penerbit akademis karena itu yang paling banyak bentuk umum kesalahan ilmiah akhir-akhir ini. Penulis dapat menggunakan segala macam trik, seperti membalik, memutar, atau memotong bagian dari gambar yang sama untuk memalsukan data. Editor tertipu untuk percaya bahwa semua hasil yang disajikan adalah nyata dan akan menerbitkan karya mereka.
Banyak penerbit sekarang beralih ke perangkat lunak AI dalam upaya untuk menemukan tanda-tanda duplikasi gambar selama proses peninjauan. Dalam kebanyakan kasus, gambar telah digandakan secara keliru oleh para ilmuwan yang mengacaukan data mereka, tetapi kadang-kadang digunakan untuk penipuan terang-terangan.
Namun saat penerbit mulai menguasai duplikasi gambar, ancaman lain muncul. Beberapa peneliti mungkin tergoda untuk menggunakan model AI generatif untuk membuat data palsu. Faktanya, ada bukti yang menunjukkan bahwa ilmuwan palsu sudah melakukan ini.
Gambar buatan AI terlihat di kertas?
Pada tahun 2019, DARPA meluncurkan Forensik Semantik (SemaFor), mendanai peneliti mengembangkan alat forensik yang mampu mendeteksi media buatan AI, untuk memerangi disinformasi.
Seorang juru bicara badan penelitian pertahanan Paman Sam mengonfirmasi telah melihat gambar medis palsu yang diterbitkan dalam makalah sains nyata yang tampaknya dihasilkan menggunakan AI. Sebelum model teks-ke-gambar, jaringan permusuhan generatif sangat populer. DARPA menyadari model-model ini, yang terkenal karena kemampuannya membuat deepfake, juga dapat memalsukan gambar pemindaian medis, sel, atau jenis gambar lain yang sering ditemukan dalam studi biomedis.
“Lanskap ancaman bergerak cukup cepat,” kata William Corvey, manajer program SemaFor Pendaftaran. “Teknologi ini menjadi ada di mana-mana untuk tujuan yang tidak berbahaya.” Corvey mengatakan badan tersebut telah berhasil mengembangkan perangkat lunak yang mampu mendeteksi gambar buatan GAN, dan alat tersebut masih dalam pengembangan.
Lanskap ancaman bergerak cukup cepat
“Kami memiliki hasil yang menunjukkan bahwa Anda dapat mendeteksi 'saudara kandung atau sepupu jauh' dari mekanisme generatif yang telah Anda pelajari sebelumnya, terlepas dari konten gambar yang dihasilkan. Analitik SemaFor melihat berbagai atribusi dan detail yang terkait dengan media yang dimanipulasi, mulai dari metadata, anomali statistik, hingga lebih banyak representasi visual, ”katanya.
Beberapa analis gambar yang meneliti data dalam makalah ilmiah juga menemukan apa yang tampak seperti gambar yang dihasilkan GAN. GAN menjadi jaringan permusuhan generatif, sejenis sistem pembelajaran mesin yang dapat menghasilkan tulisan, musik, gambar, dan banyak lagi.
Misalnya, Jennifer Byrne, seorang profesor onkologi molekuler di University of Sydney, dan Jana Christopher, seorang analis integritas gambar untuk penerbit jurnal EMBO Press, menemukan serangkaian gambar aneh yang muncul dalam 17 studi terkait biokimia.
Gambar-gambar itu menggambarkan serangkaian band yang umumnya dikenal sebagai bercak barat, yang menunjukkan adanya protein spesifik dalam sampel, yang secara aneh tampaknya memiliki latar belakang yang sama. Itu tidak seharusnya terjadi.
Contoh latar belakang berulang pada gambar western blot, disorot oleh garis tepi merah dan hijau… Sumber: Byrne, Christopher 2020
Pada tahun 2020, Byrne dan Christopher sampai pada kesimpulan bahwa gambar yang tampak mencurigakan itu mungkin diproduksi sebagai bagian dari operasi pabrik kertas: upaya untuk memproduksi makalah secara massal tentang studi biokimia menggunakan data palsu, dan membuatnya ditinjau dan dipublikasikan oleh rekan sejawat. Caper semacam itu mungkin dilakukan untuk, misalnya, menguntungkan akademisi yang diberi kompensasi berdasarkan hasil makalah yang diterima, atau untuk membantu departemen mencapai kuota laporan yang diterbitkan.
“Bercak-bercak pada contoh ditunjukkan pada kertas kami kemungkinan besar dihasilkan oleh komputer, ”kata Christopher Pendaftaran.
Saya sering menjumpai gambar yang tampak palsu, terutama bercak barat, tetapi semakin banyak juga gambar mikroskop
“Skrining makalah baik sebelum dan sesudah publikasi, saya sering menemukan gambar yang tampak palsu, terutama bercak barat, tetapi semakin banyak juga gambar mikroskop. Saya sangat menyadari bahwa banyak di antaranya kemungkinan besar dihasilkan menggunakan GAN.”
Elisabeth Bik, seorang detektif gambar lepas, sering kali mengetahui bahwa gambar juga telah dimanipulasi. Dia meneliti manuskrip makalah ilmiah, mencari gambar duplikat, dan menandai masalah ini untuk diperiksa lebih lanjut oleh editor jurnal. Tetapi lebih sulit untuk memerangi gambar palsu ketika gambar tersebut dibuat secara komprehensif oleh algoritme.
Dia menunjukkan bahwa meskipun latar belakang berulang dalam gambar yang disorot dalam penelitian Byrne dan Christopher adalah tanda pemalsuan, noda barat yang sebenarnya itu sendiri unik. Perangkat lunak visi komputer yang digunakan Bik untuk memindai kertas dan menemukan penipuan gambar akan kesulitan menandai pita-pita ini karena tidak ada duplikasi bercak yang sebenarnya.
“Kami tidak akan pernah menemukan tumpang tindih. Mereka semua, saya yakin, dibuat secara artifisial. Bagaimana tepatnya, saya tidak yakin, ”katanya Pendaftaran.
Lebih mudah menghasilkan gambar palsu dengan model AI generatif terbaru
GAN sebagian besar telah digantikan oleh model difusi. Sistem ini menghasilkan gambar unik dan mendukung perangkat lunak text-to-image saat ini termasuk DALL-E, Stable Diffusion, dan Midjourney. Mereka belajar memetakan representasi visual objek dan konsep ke bahasa alami, dan secara signifikan dapat menurunkan penghalang untuk kecurangan akademik.
Para ilmuwan dapat menjelaskan jenis data palsu apa yang ingin mereka hasilkan, dan alat ini akan melakukannya untuk mereka. Namun, saat ini, mereka belum dapat membuat gambar ilmiah yang tampak realistis. Kadang-kadang alat menghasilkan kelompok sel yang terlihat meyakinkan pada pandangan pertama, tetapi gagal total dalam hal western blots.
Ini adalah hal-hal yang dapat dihasilkan oleh program AI ini:
Inilah yang terjadi @OpenAIDALL-E melakukannya dengan petunjuk sel biologis
Secara khusus: "sel di bawah mikroskop" dan "sel-T di bawah mikroskop elektron pemindaian" pic.twitter.com/BgcZr3k5Q5
— Tara Basu Trivedi (@tbt94) 23 Agustus 2022
William Gibson – seorang dokter-ilmuwan dan rekan onkologi medis, bukan penulis terkenal – memiliki contoh lebih lanjut di sini, termasuk bagaimana model masa kini bergumul dengan konsep western blot.
Namun, teknologinya semakin baik, karena pengembang melatih model yang lebih besar dengan lebih banyak data.
David Bimler, pakar lain dalam mengenali manipulasi gambar dalam makalah ilmiah, yang lebih dikenal sebagai Smut Clyde, memberi tahu kami: "Papermill akan mengilustrasikan produk mereka menggunakan metode apa pun yang termurah dan tercepat, bergantung pada kelemahan dalam proses peer-review."
“Mereka dapat dengan mudah menyalin [western blots] dari surat kabar yang lebih tua tetapi bahkan itu melibatkan kerja keras untuk menelusuri surat kabar lama. Saat ini, saya menduga, menggunakan GAN masih merupakan upaya. Meskipun itu akan berubah, ”tambahnya.
DARPA sekarang ingin memperluas program SemaFor untuk mempelajari sistem teks-ke-gambar. “Model-model semacam ini cukup baru dan meskipun dalam lingkup, bukan bagian dari pekerjaan kami saat ini di SemaFor,” kata Corvey.
“Namun, evaluator SemaFor cenderung melihat model ini selama fase evaluasi berikutnya dari program yang dimulai pada musim gugur 2023.”
Sementara itu, kualitas penelitian ilmiah akan terkikis jika penerbit akademis tidak dapat menemukan cara untuk mendeteksi gambar palsu yang dihasilkan AI di makalah. Dalam skenario kasus terbaik, bentuk penipuan akademik ini akan terbatas hanya pada skema pabrik kertas yang toh tidak mendapat banyak perhatian. Dalam skenario terburuk, itu akan berdampak pada jurnal paling terkemuka dan ilmuwan dengan niat baik akan membuang waktu dan uang untuk mengejar ide-ide palsu yang mereka yakini benar. ®
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
- Sumber: https://go.theregister.com/feed/www.theregister.com/2023/03/11/ai_scientfic_fraud/
- :adalah
- $NAIK
- 2019
- 2020
- 2021
- 2023
- a
- kemampuan
- akademik
- dapat diakses
- di seluruh
- menambahkan
- permusuhan
- badan
- AI
- algoritma
- Semua
- sudah
- Meskipun
- analis
- Analis
- analisis
- dan
- Lain
- muncul
- Muncul
- ADALAH
- AS
- terkait
- At
- perhatian
- penulis
- penulis
- Bayi
- latar belakang
- latar belakang
- pembatas
- berdasarkan
- BE
- karena
- menjadi
- sebelum
- mulai
- mulai
- Awal
- makhluk
- Percaya
- percaya
- manfaat
- TERBAIK
- Lebih baik
- biomedis
- dibangun di
- by
- CAN
- mampu
- kasus
- Sel
- tantangan
- perubahan
- murah
- termurah
- kecurangan
- Christopher
- CO
- memerangi
- bagaimana
- komersial
- umum
- Perusahaan
- kompensasi
- komputer
- Visi Komputer
- dihasilkan komputer
- konsep
- konsep
- Perhatian
- kesimpulan
- DIKONFIRMASI
- Konten
- bisa
- membuat
- membuat
- terbaru
- dall's
- darpa
- data
- deepfakes
- Pertahanan
- Departemen
- menggambarkan
- rincian
- pengembang
- berkembang
- Pengembangan
- Difusi
- disinformasi
- terlantar
- Jauh
- Anjing
- melakukan
- selama
- mudah
- mudah
- usaha
- muncul
- Eter (ETH)
- evaluasi
- Bahkan
- segala sesuatu
- bukti
- persis
- contoh
- contoh
- Lihat lebih lanjut
- ahli
- wajah
- GAGAL
- hampir
- gadungan
- Jatuh
- terkenal
- tercepat
- sesama
- beberapa
- Angka
- Menemukan
- Pertama
- bendera
- Untuk
- Forensik
- forensik
- menempa
- bentuk
- ditemukan
- penipuan
- lepas
- dari
- pendanaan
- lebih lanjut
- GAN
- menghasilkan
- dihasilkan
- menghasilkan
- generatif
- jaringan permusuhan generatif
- AI generatif
- genom
- mendapatkan
- mendapatkan
- Sekilas
- akan
- baik
- Hijau
- terjadi
- Sulit
- Memiliki
- membantu
- Disorot
- Memukul
- Seterpercayaapakah Olymp Trade? Kesimpulan
- Namun
- HTTPS
- manusia
- Pemburuan
- i
- ide-ide
- gambar
- gambar
- Dampak
- ditingkatkan
- in
- Termasuk
- makin
- menunjukkan
- mulanya
- contoh
- integritas
- niat
- menarik
- tidak peduli
- masalah
- IT
- NYA
- Jennifer
- majalah
- jpg
- dikenal
- label
- pemandangan
- bahasa
- sebagian besar
- lebih besar
- Terlambat
- Terbaru
- diluncurkan
- BELAJAR
- belajar
- 'like'
- Mungkin
- Terbatas
- melihat
- terlihat seperti
- mencari
- terbuat
- manajer
- dimanipulasi
- manipulasi
- banyak
- peta
- Massa
- hal
- mekanisme
- Media
- medis
- Metadata
- metode
- Mikroskopi
- Pertengahan Perjalanan
- mungkin
- model
- molekuler
- saat
- uang
- lebih
- paling
- bergerak
- musik
- Alam
- Bahasa Alami
- jaringan
- jaringan
- New
- berikutnya
- NIH
- objek
- of
- Tua
- on
- onkologi
- ONE
- operasi
- Lainnya
- menguraikan
- keluaran
- kertas
- dokumen
- bagian
- bagian
- lalu
- buah pir
- tahap
- Film
- plato
- Kecerdasan Data Plato
- Data Plato
- Populer
- pose
- potensi
- kekuasaan
- terutama
- kehadiran
- disajikan
- pers
- cukup
- sebelumnya
- mungkin
- proses
- menghasilkan
- Diproduksi
- Produk
- Profesor
- program
- program
- Protein
- prototipe
- menerbitkan
- diterbitkan
- penerbit
- penerbit
- tujuan
- kualitas
- cepat
- RE
- nyata
- realistis
- menyadari
- menerima
- Merah
- daftar
- ulang
- laporan
- perwakilan
- terkemuka
- penelitian
- peneliti
- Hasil
- ulasan
- review jurnal
- s
- Tersebut
- Universitas
- sama
- pemindaian
- pemindaian
- skenario
- adegan
- skema
- Ilmu
- Penelitian ilmiah
- ilmuwan
- cakupan
- penyaringan
- Pencarian
- detik
- tampak
- tiang sinyal
- Seri
- set
- ditunjukkan
- Pertunjukkan
- menandatangani
- signifikan
- Tanda
- hanya
- sejak
- Detektif
- Perangkat lunak
- beberapa
- sumber
- tertentu
- juru bicara
- Spot
- stabil
- statistik
- Masih
- Perjuangan
- studi
- Belajar
- sukses
- seperti itu
- Seharusnya
- mencurigakan
- sydney
- sistem
- sistem
- Teknologi
- bahwa
- Grafik
- mereka
- Mereka
- diri
- Ini
- hal
- ancaman
- Melalui
- waktu
- untuk
- hari ini
- terlalu
- alat
- puncak
- Pelatihan VE
- benar
- Putar
- jenis
- di mana-mana
- bawah
- unik
- universitas
- Universitas Sydney
- us
- menggunakan
- variasi
- Ve
- penglihatan
- berjalan
- Limbah
- cara
- Barat
- Apa
- yang
- sementara
- SIAPA
- sangat
- akan
- dengan
- Kerja
- akan
- penulisan
- tahun
- zephyrnet.dll