OpenAI telah merilis alat online gratis yang dirancang untuk memprediksi apakah suatu bagian teks dihasilkan oleh AI atau ditulis oleh manusia.
Dijuluki "Pengklasifikasi Teks AI", perangkat lunak ini didukung oleh model bahasa dan menilai kemungkinan sepotong teks dihasilkan oleh model AI pada skala lima poin mulai dari "sangat tidak mungkin" hingga "tidak jelas" hingga "mungkin .” Kami mencobanya di beberapa artikel kami dari satu dekade atau lebih yang lalu, dan beberapa burung nasar mungkin kesal mengetahui salinan mereka dinilai "tidak jelas apakah itu dihasilkan oleh AI".
Alat tersebut, diluncurkan Selasa, memulai debutnya beberapa bulan setelah startup diluncurkan ChatGPT, chatbot yang secara otomatis menghasilkan teks saat diinstruksikan, seperti menjawab pertanyaan, menceritakan lelucon, atau menulis puisi. Akibatnya, OpenAI membantu mendorong peningkatan bot streaming yang mengoceh dan sekarang menawarkan alat setengah-setengah untuk mendeteksi hal-hal semacam ini.
Sekolah dan universitas di AS, Prancis, dan India, setidaknya sejak itu dilarang siswa dari mengakses ChatGPT menggunakan jaringan mereka atau dari mengirimkan esai yang dihasilkan oleh perangkat lunak.
Pengklasifikasi terkadang sangat yakin dengan prediksi yang salah
Para ahli juga khawatir model pembuatan teks dapat digunakan untuk memancarkan banyak informasi yang salah, email phishing, rim dan rim omong kosong membanjiri internet. Beberapa organisasi dan oleh karena itu, ilmuwan komputer mulai mengerjakan alat pengklasifikasi mereka sendiri untuk mendeteksi konten yang dihasilkan AI.
Pengklasifikasi Teks AI OpenAI tidak sempurna. “Penggunaan yang kami maksudkan untuk Pengklasifikasi Teks AI adalah untuk mendorong percakapan tentang perbedaan antara konten yang ditulis manusia dan yang dihasilkan oleh AI,” lab yang dibiayai oleh Microsoft. tersebut.
“Hasilnya mungkin membantu, tetapi seharusnya tidak menjadi satu-satunya bukti, saat memutuskan apakah suatu dokumen dibuat dengan AI,” tambah organisasi itu. “Model ini dilatih pada teks tulisan manusia dari berbagai sumber, yang mungkin tidak mewakili semua jenis teks tulisan manusia.”
Pengklasifikasi Teks AI dirancang untuk mendeteksi teks buatan mesin dari berbagai sumber, bukan hanya ChatGPT yang berlebihan. Itu dilatih pada teks tulisan AI dari 34 model yang dibangun oleh lima organisasi, dan teks tulisan manusia yang diambil dari internet dan diambil dari kumpulan data internal perusahaan.
Alat ini membutuhkan sampel teks 1,000 karakter, dan tidak berfungsi dengan baik untuk bahasa selain bahasa Inggris. Kepala penyelarasan OpenAI Jan Leike mengatakan Axios prediksinya dapat menghasilkan false positive atau false negative.
Pengklasifikasi bahkan tidak akan berguna bagi guru yang ingin menilai apakah siswa mengirimkan tugas yang dibuat oleh perangkat lunak seperti ChatGPT. Pengklasifikasi Teks AI tidak cukup sensitif untuk mengetahui kalimat atau cuplikan mana yang mungkin merupakan karya AI, sehingga teks apa pun yang dihasilkan oleh komputer dan diubah oleh manusia dapat menghindari deteksi.
“Kami memperingatkan bahwa model tersebut belum dievaluasi secara hati-hati pada banyak target prinsip yang diharapkan – termasuk esai siswa, kampanye disinformasi otomatis, atau transkrip obrolan. Memang, pengklasifikasi berdasarkan jaringan saraf diketahui dikalibrasi dengan buruk di luar data pelatihan mereka. Untuk input yang sangat berbeda dari teks dalam set pelatihan kami, pengklasifikasi terkadang sangat yakin dengan prediksi yang salah,” lab tersebut memperingatkan.
OpenAI juga kabarnya mengeksplorasi pendekatan lain untuk mendeteksi teks yang dihasilkan AI termasuk teknik watermarking yang dapat dibangun ke dalam produk masa depannya.
Pendaftaran telah meminta OpenAI untuk komentar lebih lanjut, lebih disukai yang tidak dihasilkan oleh AI. ®
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
- Sumber: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- Tentang Kami
- mengakses
- menambahkan
- Setelah
- AI
- Semua
- Di tengah
- dan
- pendekatan
- artikel
- Otomatis
- secara otomatis
- Axios
- berdasarkan
- antara
- bot
- dibangun di
- Kampanye
- hati-hati
- karakter
- ChatBot
- ChatGPT
- komentar
- perusahaan
- komputer
- yakin
- Konten
- Percakapan
- bisa
- data
- debutnya
- dasawarsa
- Memutuskan
- dirancang
- Deteksi
- berbeda
- disinformasi
- dokumen
- efek
- Inggris
- cukup
- Eter (ETH)
- dievaluasi
- Bahkan
- bukti
- diharapkan
- Menjelajahi
- sangat
- takut
- ketakutan
- Membantu perkembangan
- Prancis
- Gratis
- dari
- Bahan bakar
- lebih lanjut
- masa depan
- dihasilkan
- menghasilkan
- Pergi
- kepala
- membantu
- membantu
- HTTPS
- manusia
- in
- Termasuk
- India
- intern
- Internet
- IT
- jan
- Jenis
- dikenal
- laboratorium
- bahasa
- Bahasa
- BELAJAR
- Mungkin
- mencari
- banyak
- Keterangan yg salah
- model
- model
- bulan
- jaringan
- saraf
- jaringan saraf
- Penawaran
- secara online
- OpenAI
- organisasi
- organisasi
- Lainnya
- di luar
- sendiri
- sempurna
- Phishing
- bagian
- plato
- Kecerdasan Data Plato
- Data Plato
- didukung
- meramalkan
- ramalan
- Prediksi
- prinsip
- menghasilkan
- Diproduksi
- Produk
- pertanyaan
- Tarif
- dirilis
- wakil
- membutuhkan
- Hasil
- Naik
- Skala
- ilmuwan
- peka
- set
- beberapa
- harus
- sejak
- So
- Perangkat lunak
- beberapa
- sumber
- mulai
- startup
- mahasiswa
- Siswa
- disampaikan
- seperti itu
- target
- guru
- Grafik
- mereka
- karena itu
- untuk
- Nada
- alat
- alat
- terlatih
- Pelatihan
- Selasa
- Universitas
- meluncurkan
- us
- menggunakan
- variasi
- berbagai
- apakah
- yang
- SIAPA
- akan
- Kerja
- tertulis
- Salah
- zephyrnet.dll