OpenAI je izdal brezplačno spletno orodje, namenjeno predvidevanju, ali je odlomek besedila ustvaril AI ali ga je napisal človek.
Programsko opremo, imenovano »AI Text Classifier«, poganja jezikovni model in ocenjuje verjetnost, da je kos besedila ustvaril model AI na petstopenjski lestvici, ki gre od »zelo malo verjetno«, »nejasno« do »verjetno«. .” Preizkusili smo ga na nekaterih naših člankih izpred približno desetletja in več jastrebov bo morda jeznih, ko bodo izvedeli, da je njihova kopija ocenjena kot "ni jasno, ali je ustvarjena z umetno inteligenco."
Orodje, ki je bilo predstavljeno v torek, je debitiralo nekaj mesecev po zagonu začela ChatGPT, klepetalni robot, ki samodejno ustvari besedilo po navodilih, kot je odgovor na vprašanje, pripovedovanje šale ali pisanje pesmi. Pravzaprav je OpenAI pripomogel k porastu botov za pretakanje klepetanja in zdaj ponuja polovično orodje za odkrivanje tovrstnih stvari.
Šole in univerze v ZDA, Franciji in Indiji vsaj od takrat prepovedana študentom od dostopa do ChatGPT prek njihovih omrežij ali od oddaje esejev, ki jih ustvari programska oprema.
Klasifikator je včasih zelo prepričan v napačno napoved
Strokovnjaki se prav tako bojijo, da bi se lahko modeli za generiranje besedila uporabili za oddajanje množice dezinformacij, lažnih e-poštnih sporočil, kopice in množice neumnosti, ki bi preplavile internet. Več organizacije in računalničarji so zato začeli delati na lastnih orodjih za klasifikacijo za odkrivanje vsebine, ki jo ustvari umetna inteligenca.
OpenAI-jev AI Text Classifier ni popoln. »Naš namen uporabe AI Text Classifierja je spodbujanje pogovora o razlikovanju med vsebino, ki jo je napisal človek, in vsebino, ki jo je ustvarila AI,« laboratorij, ki ga financira Microsoft je dejal.
"Rezultati lahko pomagajo, vendar ne smejo biti edini dokaz, ko se odločamo, ali je bil dokument ustvarjen z AI," je dodala organizacija. "Model je usposobljen za človeško napisano besedilo iz različnih virov, ki morda niso reprezentativni za vse vrste človeško napisanega besedila."
AI Text Classifier je zasnovan tako, da zaznava strojno ustvarjeno besedilo iz različnih virov, ne le iz njegovega preveč opevanega ChatGPT. Usposabljali so ga tako na besedilu, napisanem z umetno inteligenco, iz 34 modelov, ki ga je izdelalo pet organizacij, kot na besedilu, napisanem s strani ljudi, postrganem iz interneta in vzetem iz internega nabora podatkov podjetja.
Orodje zahteva vzorce besedila s 1,000 znaki in ne deluje dobro v drugih jezikih razen angleščini. Vodja usklajevanja OpenAI Jan Leike Rekel Njegove napovedi Axios lahko proizvedejo lažno pozitivne ali lažno negativne rezultate.
Klasifikator niti ne bo tako uporaben za učitelje, ki želijo oceniti, ali je učenec oddal nalogo, ki jo ustvari programska oprema, kot je ChatGPT. Klasifikator besedila z umetno inteligenco ni dovolj občutljiv, da bi ugotovil, kateri stavki ali izrezki so morda delo umetne inteligence, zato se lahko vsako besedilo, ki ga ustvari računalnik in prilagodi človek, ne zazna.
»Opozarjamo, da model ni bil skrbno ovrednoten za številne pričakovane glavne cilje – vključno s študentskimi eseji, avtomatiziranimi dezinformacijskimi kampanjami ali prepisi klepetov. Dejansko je znano, da so klasifikatorji, ki temeljijo na nevronskih mrežah, slabo kalibrirani zunaj svojih podatkov o usposabljanju. Za vnose, ki se zelo razlikujejo od besedila v našem naboru za usposabljanje, je klasifikator včasih izjemno prepričan v napačno napoved,« so opozorili v laboratoriju.
OpenAI je tudi domnevno raziskovanje drugih pristopov za zaznavanje besedila, ustvarjenega z umetno inteligenco, vključno s tehniko vodnega žiga, ki bo morda vgrajena v prihodnje izdelke.
Register je zaprosil OpenAI za nadaljnje komentarje, po možnosti brez umetne inteligence. ®
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- Platoblockchain. Web3 Metaverse Intelligence. Razširjeno znanje. Dostopite tukaj.
- vir: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- O meni
- Dostop
- dodano
- po
- AI
- vsi
- Sredi
- in
- pristopi
- članki
- Avtomatizirano
- samodejno
- Axios
- temeljijo
- med
- bote
- zgrajena
- Kampanje
- previdno
- znaki
- chatbot
- ChatGPT
- komentar
- podjetje
- računalnik
- Prepričani
- vsebina
- Pogovor
- bi
- datum
- debutiral
- desetletje
- Odločanje
- zasnovan
- Odkrivanje
- drugačen
- dezinformacija
- dokument
- učinek
- e-pošta
- Angleščina
- dovolj
- Eter (ETH)
- ocenili
- Tudi
- dokazi
- Pričakuje
- Raziskovati
- izredno
- strah
- strahovi
- Spodbujati
- Francija
- brezplačno
- iz
- gorivo
- nadalje
- Prihodnost
- ustvarila
- ustvarja
- goes
- Glava
- pomoč
- pomagal
- HTTPS
- človeškega
- in
- Vključno
- india
- notranji
- Internet
- IT
- John
- Otrok
- znano
- lab
- jezik
- jeziki
- UČITE
- Verjeten
- si
- več
- Dezinformacije
- Model
- modeli
- mesecev
- omrežij
- Nevronski
- nevronske mreže
- Ponudbe
- na spletu
- OpenAI
- Organizacija
- organizacije
- Ostalo
- zunaj
- lastne
- popolna
- Ribarjenje
- kos
- platon
- Platonova podatkovna inteligenca
- PlatoData
- poganja
- napovedati
- napoved
- Napovedi
- Načelo
- proizvodnjo
- Proizvedeno
- Izdelki
- vprašanje
- Cene
- sprosti
- predstavnik
- zahteva
- Rezultati
- Rise
- Lestvica
- Znanstveniki
- občutljiva
- nastavite
- več
- shouldnt
- saj
- So
- Software
- nekaj
- Viri
- začel
- zagon
- študent
- Študenti
- predložen
- taka
- Cilji
- Učitelji
- O
- njihove
- zato
- do
- Tone
- orodje
- orodja
- usposobljeni
- usposabljanje
- Torek
- Univerze
- predstavil
- us
- uporaba
- raznolikost
- različnih
- ali
- ki
- WHO
- bo
- delo
- pisni
- Napačen
- zefirnet