OpenAI, bir metin pasajının yapay zeka tarafından mı oluşturulduğunu yoksa bir insan tarafından mı yazıldığını tahmin etmek için tasarlanmış ücretsiz bir çevrimiçi araç yayınladı.
"AI Text Classifier" olarak adlandırılan yazılım, bir dil modeli tarafından destekleniyor ve bir metin parçasının bir AI modeli tarafından oluşturulma olasılığını "pek olası değil"den "belirsiz"e ve "muhtemel"e giden beş puanlık bir ölçekte derecelendiriyor. ” Bunu on yıl kadar önceki bazı makalelerimizde denedik ve birkaç akbaba, kopyalarının "Yapay zeka tarafından üretilip üretilmediği belirsiz" olarak derecelendirildiğini öğrenince sinirlenebilir.
Salı günü açıklanan araç, başlangıçtan aylar sonra giriş yaptı başlattı ChatGPT, bir soruyu yanıtlamak, şaka yapmak veya şiir yazmak gibi talimat verildiğinde otomatik olarak metin oluşturan bir sohbet robotu. Aslında, OpenAI gevezelik yapan botların artmasına yardımcı oldu ve şimdi bu tür şeyleri tespit etmek için yarım yamalak bir araç sunuyor.
En azından ABD, Fransa ve Hindistan'daki okullar ve üniversiteler, o zamandan beri yasaklı öğrencilerin ağlarını kullanarak ChatGPT'ye erişmelerini veya yazılım tarafından oluşturulan makaleleri göndermelerini engeller.
Sınıflandırıcı bazen yanlış bir tahminde son derece emindir.
Uzmanlar ayrıca, metin oluşturma modellerinin tonlarca yanlış bilgi, kimlik avı e-postası, tonlarca saçmalık yaymak için kullanılabileceğinden korkuyor. Birkaç organizasyonlar ve bilgisayar bilimciler bu nedenle yapay zeka tarafından üretilen içeriği tespit etmek için kendi sınıflandırıcı araçları üzerinde çalışmaya başladılar.
OpenAI'nin AI Metin Sınıflandırıcısı mükemmel değil. Microsoft tarafından finanse edilen laboratuvar, "Yapay Zeka Metin Sınıflandırıcıyı kullanma amacımız, insanlar tarafından yazılan ve yapay zeka tarafından oluşturulan içerik arasındaki ayrım hakkında konuşmayı teşvik etmektir." şuraya.
Kuruluş, "Sonuçlar yardımcı olabilir, ancak bir belgenin yapay zeka ile oluşturulup oluşturulmadığına karar verirken tek kanıt parçası olmamalıdır" diye ekledi. "Model, insan eliyle yazılmış her tür metni temsil etmeyebilecek çeşitli kaynaklardan gelen insan eliyle yazılmış metinler üzerinde eğitilmiştir."
AI Metin Sınıflandırıcı, yalnızca aşırı abartılı ChatGPT'sinden değil, çeşitli kaynaklardan makine yapımı metinleri algılamak için tasarlanmıştır. Hem beş kuruluş tarafından oluşturulan 34 modelden AI tarafından yazılmış metin hem de internetten kazınmış ve şirket içi bir veri kümesinden alınan insan tarafından yazılmış metin üzerinde eğitildi.
Araç, 1,000 karakterlik metin örnekleri gerektirir ve İngilizce dışındaki dillerde iyi çalışmaz. OpenAI'nin hizalama başkanı Jan Leike söyledi Axios'un tahminleri yanlış pozitifler veya yanlış negatifler üretebilir.
Sınıflandırıcı, bir öğrencinin ChatGPT gibi bir yazılım tarafından oluşturulan bir ödevi teslim edip etmediğini değerlendirmek isteyen öğretmenler için bile o kadar yararlı olmayacaktır. AI Metin Sınıflandırıcı, hangi cümlelerin veya parçacıkların AI'nın işi olabileceğini söyleyecek kadar hassas değildir, bu nedenle bir bilgisayar tarafından üretilen ve bir insan tarafından ince ayar yapılan herhangi bir metin tespit edilmeyebilir.
"Modelin, öğrenci makaleleri, otomatik dezenformasyon kampanyaları veya sohbet transkriptleri dahil olmak üzere, beklenen ilke hedeflerinin çoğunda dikkatli bir şekilde değerlendirilmediği konusunda uyarıyoruz. Aslında, sinir ağlarına dayalı sınıflandırıcıların, eğitim verilerinin dışında yetersiz kalibre edildiği bilinmektedir. Eğitim setimizdeki metinden çok farklı olan girdiler için, sınıflandırıcı bazen yanlış bir tahminde bulunmaktan son derece emin," diye uyardı laboratuvar.
OpenAI aynı zamanda söylendiğine göre gelecekteki ürünlerinde yerleşik olabilecek bir filigran tekniği dahil olmak üzere yapay zeka tarafından oluşturulan metni algılamak için diğer yaklaşımları keşfetmek.
Kayıt OpenAI'den daha fazla, tercihen yapay zeka tarafından üretilmemiş bir yorum istedi. ®
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. Buradan Erişin.
- Kaynak: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- Hakkımızda
- erişme
- katma
- Sonra
- AI
- Türkiye
- Ortasında
- ve
- yaklaşımlar
- mal
- Otomatik
- otomatik olarak
- Axios
- merkezli
- arasında
- botlar
- yapılı
- Kampanyalar
- dikkatlice
- karakterler
- chatbot
- ChatGPT
- yorum Yap
- şirket
- bilgisayar
- emin
- içerik
- konuşma
- olabilir
- veri
- giriş yaptı
- onyıl
- Karar verme
- tasarlanmış
- Bulma
- farklı
- yanlış bilgi verme
- belge
- Efekt
- e-postalar
- İngilizce
- yeterli
- Eter (ETH)
- değerlendirilir
- Hatta
- kanıt
- beklenen
- Keşfetmek
- son derece
- korku
- korkular
- Beslemek
- Fransa
- Ücretsiz
- itibaren
- Yakıt
- daha fazla
- gelecek
- oluşturulan
- üretir
- Goes
- baş
- yardım et
- yardım
- HTTPS
- insan
- in
- Dahil olmak üzere
- Hindistan
- iç
- Internet
- IT
- Ara
- Nezaket.
- bilinen
- laboratuvar
- dil
- Diller
- ÖĞRENİN
- Muhtemelen
- bakıyor
- çok
- yanlış bilgi
- model
- modelleri
- ay
- ağlar
- sinirsel
- nöral ağlar
- Teklifler
- Online
- OpenAI
- kuruluşlar
- organizasyonlar
- Diğer
- dışında
- kendi
- MÜKEMMEL OLAN YERİ BULUN
- Kimlik avı
- parça
- Platon
- Plato Veri Zekası
- PlatoVeri
- powered
- tahmin
- tahmin
- Tahminler
- prensip
- üretmek
- Üretilmiş
- Ürünler
- soru
- oranlar
- serbest
- temsilci
- gerektirir
- Sonuçlar
- Yükselmek
- ölçek
- bilim adamları
- hassas
- set
- birkaç
- meli
- beri
- So
- Yazılım
- biraz
- kaynaklar
- başladı
- başlangıç
- Öğrenci
- Öğrenciler
- gönderilen
- böyle
- hedefler
- öğretmenler
- The
- ve bazı Asya
- bu nedenle
- için
- Ton
- araç
- araçlar
- eğitilmiş
- Eğitim
- Salı
- Üniversiteler
- açıkladı
- us
- kullanım
- çeşitlilik
- çeşitli
- olup olmadığını
- hangi
- DSÖ
- irade
- İş
- yazılı
- Yanlış
- zefirnet