OpenAI on julkaissut ilmaisen verkkotyökalun, joka on suunniteltu ennustamaan, onko tekstin pätkä tekoälyn luoma vai ihmisen kirjoittama.
Tekoälymalliksi kutsutussa ohjelmistossa on kielimalli, ja se arvioi todennäköisyyttä, että tekoälymalli on tuottanut tekstiä viiden pisteen asteikolla, joka vaihtelee "erittäin epätodennäköisestä" "epäselvään" ja "todennäköiseen" .” Kokeilimme sitä joissakin noin kymmenen vuoden takaisissa artikkeleissamme, ja useat korppikotkat saattavat olla närkästyneitä kuullessaan, että heidän kopionsa on luokiteltu "epäselväksi, onko se tekoälyn luoma".
Tiistaina julkistettu työkalu debytoi kuukausia käynnistyksen jälkeen käynnistettiin ChatGPT, chatbot, joka luo tekstiä automaattisesti ohjeiden mukaan, kuten vastaamaan kysymykseen, kertomaan vitsin tai kirjoittamalla runon. Käytännössä OpenAI auttoi ruokkivat striimausbottien kasvua ja tarjoaa nyt puoliperäisen työkalun tällaisten asioiden havaitsemiseen.
Koulut ja yliopistot Yhdysvalloissa, Ranskassa ja Intiassa ovat ainakin siitä lähtien kielletty oppilaiden pääsy ChatGPT:hen verkkojensa kautta tai ohjelmiston luomien esseiden lähettämisestä.
Luokittaja on joskus erittäin varma väärästä ennustuksesta
Asiantuntijat pelkäävät myös, että tekstin luontimalleja voitaisiin käyttää lähettämään tonnia väärää tietoa, tietojenkalasteluviestejä, riisiä ja hölynpölyä Internetiin. Useita organisaatioiden Tietojenkäsittelytieteilijät ovat siksi alkaneet kehittää omia luokittelutyökalujaan tekoälyn tuottaman sisällön havaitsemiseksi.
OpenAI:n AI Text Classifier ei ole täydellinen. "Tekoälytekstin luokittelun tarkoitus on edistää keskustelua ihmisten kirjoittaman ja tekoälyn luoman sisällön välisestä erosta", Microsoftin pankkrolloitu laboratorio sanoi.
"Tulokset voivat auttaa, mutta niiden ei pitäisi olla ainoa todiste, kun päätetään, onko asiakirja luotu tekoälyllä", organisaatio lisäsi. "Malli on koulutettu eri lähteistä peräisin olevalle ihmisen kirjoittamalle tekstille, joka ei välttämättä edusta kaikenlaista ihmisen kirjoittamaa tekstiä."
Tekoälytekstin luokitin on suunniteltu havaitsemaan koneellisesti valmistettua tekstiä eri lähteistä, ei vain sen ylihypotettu ChatGPT. Se oli koulutettu sekä tekoälyllä kirjoitetulla tekstillä 34 mallista, jotka viisi organisaatiota oli rakentanut, että ihmisten kirjoittamaa tekstiä, joka oli kaavittu Internetistä ja otettu yrityksen sisäisestä tietojoukosta.
Työkalu vaatii 1,000 XNUMX merkin tekstinäytteitä, eikä se toimi hyvin muilla kielillä kuin englannin kielellä. OpenAI:n linjauspäällikkö Jan Leike kertoi Axios sen ennusteet voivat tuottaa vääriä positiivisia tai vääriä negatiivisia.
Luokittelusta ei ole hyötyä edes opettajille, jotka haluavat arvioida, onko opiskelija lähettänyt ChatGPT:n kaltaisten ohjelmistojen luoman tehtävän. Tekoälytekstin luokitin ei ole tarpeeksi herkkä kertomaan, mitkä lauseet tai katkelmat ovat saattaneet olla tekoälyn työtä, joten mikä tahansa tietokoneen tuottama ja ihmisen muokkaama teksti voi välttää havaitsemisen.
"Varoitamme, että mallia ei ole arvioitu huolellisesti monissa odotetuissa pääkohteissa - mukaan lukien opiskelijaesseet, automatisoidut disinformaatiokampanjat tai chat-kopiot. Itse asiassa hermoverkkoihin perustuvien luokittimien tiedetään olevan huonosti kalibroituja harjoitustietojensa ulkopuolella. Jos syötteet ovat hyvin erilaisia kuin harjoitussarjamme teksti, luokittelija on joskus erittäin varma väärästä ennustuksesta”, laboratorio varoitti.
OpenAI on myös kuulemma tutkia muita lähestymistapoja tekoälyn luoman tekstin havaitsemiseen, mukaan lukien vesileimatekniikka, joka voidaan sisällyttää sen tuleviin tuotteisiin.
Rekisteri on pyytänyt OpenAI:lta lisäkommentteja, mieluiten tekoälyn luomattomia kommentteja. ®
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- Platoblockchain. Web3 Metaverse Intelligence. Tietoa laajennettu. Pääsy tästä.
- Lähde: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- Meistä
- Pääsy
- lisä-
- Jälkeen
- AI
- Kaikki
- Keskellä
- ja
- lähestymistavat
- artikkelit
- Automatisoitu
- automaattisesti
- Axios
- perustua
- välillä
- botit
- rakennettu
- Kampanjat
- huolellisesti
- merkkejä
- chatbot
- ChatGPT
- kommentti
- yritys
- tietokone
- luottavainen
- pitoisuus
- Keskustelu
- voisi
- tiedot
- debytoi
- vuosikymmen
- Päätetään
- suunniteltu
- Detection
- eri
- harhaanjohtavat tiedot
- asiakirja
- vaikutus
- sähköpostit
- Englanti
- tarpeeksi
- Eetteri (ETH)
- arvioitu
- Jopa
- näyttö
- odotettu
- Tutkiminen
- erittäin
- pelko
- pelot
- Edistää
- Ranska
- Ilmainen
- alkaen
- polttoaine
- edelleen
- tulevaisuutta
- syntyy
- synnyttää
- Goes
- pää
- auttaa
- auttanut
- HTTPS
- ihmisen
- in
- Mukaan lukien
- Intia
- sisäinen
- Internet
- IT
- Johannes
- laji
- tunnettu
- laboratorio
- Kieli
- kielet
- OPPIA
- Todennäköisesti
- näköinen
- monet
- väärät tiedot
- malli
- mallit
- kk
- verkot
- hermo-
- hermoverkkoihin
- Tarjoukset
- verkossa
- OpenAI
- organisaatio
- organisaatioiden
- Muut
- ulkopuolella
- oma
- täydellinen
- Phishing
- kappale
- Platon
- Platonin tietotieto
- PlatonData
- powered
- ennustaa
- ennustus
- Ennusteet
- periaate
- tuottaa
- valmistettu
- Tuotteemme
- kysymys
- Hinnat
- julkaistu
- edustaja
- Vaatii
- tulokset
- Nousta
- Asteikko
- tutkijat
- sensible
- setti
- useat
- shouldnt
- koska
- So
- Tuotteemme
- jonkin verran
- Lähteet
- alkoi
- käynnistyksen
- opiskelija
- Opiskelijat
- toimitettu
- niin
- tavoitteet
- opettajat
- -
- heidän
- siksi
- että
- tonnia
- työkalu
- työkalut
- koulutettu
- koulutus
- tiistai
- Yliopistot
- paljastettiin
- us
- käyttää
- lajike
- eri
- onko
- joka
- KUKA
- tulee
- Referenssit
- kirjallinen
- Väärä
- zephyrnet