OpenAI on välja andnud tasuta veebitööriista, mille eesmärk on ennustada, kas tekstilõik on AI loodud või inimese kirjutatud.
AI teksti klassifikaatoriks nimetatud tarkvara toidab keelemudel ja hindab tõenäosust, et AI mudel genereeris tekstijupi viiepallisel skaalal, mis ulatub "väga ebatõenäolisest" kuni "ebaselge" kuni "tõenäoliseni". .” Proovisime seda mõne oma kümmekonna aasta taguse artikli puhul ja mitu raisakotkast võib pahaks panna, saades teada, et nende koopia on hinnatud „Ebaselge, kas see on tehisintellekti loodud”.
Teisipäeval avalikustatud tööriist debüteeris kuid pärast käivitamist käivitatud ChatGPT, vestlusrobot, mis genereerib automaatselt teksti, kui seda juhendatakse, näiteks vastates küsimusele, rääkides nalja või kirjutades luuletuse. Tegelikult aitas OpenAI hoogustada voogedastusrobotite arvu kasvu ja pakub nüüd seda tüüpi asjade tuvastamiseks pooliku tööriista.
Vähemalt USA, Prantsusmaa ja India koolid ja ülikoolid on sellest ajast alates seda teinud keelatud õpilastele juurdepääsu ChatGPT-le oma võrkude kaudu või tarkvara loodud esseede esitamisest.
Klassifikaator on mõnikord äärmiselt kindel vales ennustuses
Eksperdid kardavad ka, et tekstigenereerimismudeleid võidakse kasutada hulga valeinformatsiooni, andmepüügimeilide, hunnikute ja jamade väljastamiseks Interneti üleujutamiseks. Mitu organisatsioonid ja arvutiteadlased on seetõttu alustanud tööd oma klassifikaatori tööriistadega, et tuvastada tehisintellekti loodud sisu.
OpenAI AI teksti klassifikaator pole täiuslik. "Meie kavandatud AI teksti klassifikaatori kasutusala on edendada vestlust inimeste kirjutatud ja tehisintellekti loodud sisu eristamise üle," ütles Microsofti pangalabor. ütles.
"Tulemused võivad aidata, kuid ei tohiks olla ainsaks tõendiks otsustamisel, kas dokument on loodud tehisintellektiga," lisas organisatsioon. "Mudel on koolitatud mitmesugustest allikatest pärit inimeste kirjutatud tekstiga, mis ei pruugi esindada igasuguseid inimeste kirjutatud tekste."
Tehisintellekti teksti klassifikaator on loodud tuvastama erinevatest allikatest pärit masintehtud teksti, mitte ainult selle üleliigset ChatGPT-d. Seda õpetati nii viie organisatsiooni loodud 34 mudeli tehisintellektiga kirjutatud teksti kui ka Internetist kraabitud ja ettevõttesisesest andmekogumist võetud inimeste kirjutatud teksti kohta.
Tööriist nõuab 1,000 tähemärgi pikkuseid tekstinäidiseid ja see ei tööta hästi muude keelte peale inglise keele. OpenAI joondusjuht Jan Leike ütles Axiose ennustused võivad anda valepositiivseid või valenegatiivseid tulemusi.
Klassifikaator pole isegi nii kasulik õpetajatele, kes soovivad hinnata, kas õpilane esitas ülesande, mille on loonud tarkvara nagu ChatGPT. Tehisintellekti klassifikaator ei ole piisavalt tundlik, et öelda, millised laused või katkendid võisid olla tehisintellekti töö, seega võib igasugune arvuti loodud ja inimese kohandatud tekst tuvastamisest kõrvale hiilida.
„Hoiatame, et mudelit ei ole paljude eeldatavate peamiste sihtmärkide puhul hoolikalt hinnatud – sealhulgas õpilaste esseed, automatiseeritud desinformatsioonikampaaniad või vestluse ärakirjad. Tõepoolest, närvivõrkudel põhinevad klassifikaatorid on väljaspool nende koolitusandmeid halvasti kalibreeritud. Meie koolituskomplekti tekstist väga erinevate sisendite puhul on klassifikaator mõnikord äärmiselt kindel vales ennustuses,“ hoiatas labor.
OpenAI on ka teatatud uurib teisi lähenemisviise AI-ga loodud teksti tuvastamiseks, sealhulgas vesimärgitehnikat, mis võidakse selle tulevastesse toodetesse sisse ehitada.
Register on palunud OpenAI-lt täiendavaid, eelistatavalt AI-ga mitteseotud kommentaare. ®
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- Platoblockchain. Web3 metaversiooni intelligentsus. Täiustatud teadmised. Juurdepääs siia.
- Allikas: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- MEIST
- Ligipääs
- lisatud
- pärast
- AI
- Materjal: BPA ja flataatide vaba plastik
- Keset
- ja
- lähenemisviisid
- kaubad
- Automatiseeritud
- automaatselt
- Axios
- põhineb
- vahel
- eest
- ehitatud
- Kampaaniad
- hoolikalt
- märki
- chatbot
- ChatGPT
- kommentaar
- ettevõte
- arvuti
- kindel
- sisu
- Vestlus
- võiks
- andmed
- debüteeris
- kümme aastat
- Otsustamine
- kavandatud
- Detection
- erinev
- deinformatsioon
- dokument
- mõju
- kirju
- Inglise
- piisavalt
- Eeter (ETH)
- hinnatud
- Isegi
- tõend
- oodatav
- Avastades
- äärmiselt
- hirm
- hirmud
- Soodustama
- Prantsusmaa
- tasuta
- Alates
- Kütus
- edasi
- tulevik
- loodud
- genereerib
- Goes
- juhataja
- aitama
- aitas
- HTTPS
- inim-
- in
- Kaasa arvatud
- India
- sisemine
- Internet
- IT
- John
- Laps
- teatud
- labor
- keel
- Keeled
- Õppida
- Tõenäoliselt
- otsin
- palju
- Väärinformatsioon
- mudel
- mudelid
- kuu
- võrgustikud
- Neural
- närvivõrgud
- Pakkumised
- Internetis
- OpenAI
- organisatsioon
- organisatsioonid
- Muu
- väljaspool
- enda
- täiuslik
- Phishing
- tükk
- Platon
- Platoni andmete intelligentsus
- PlatoData
- sisse
- ennustada
- ennustus
- Ennustused
- põhimõte
- tootma
- Toodetud
- Toodet
- küsimus
- Rates
- vabastatud
- esindaja
- Vajab
- Tulemused
- Tõusma
- Skaala
- teadlased
- tundlik
- komplekt
- mitu
- peaks
- alates
- So
- tarkvara
- mõned
- Allikad
- alustatud
- käivitamisel
- õpilane
- Õpilased
- esitatud
- selline
- eesmärgid
- õpetajad
- .
- oma
- seetõttu
- et
- tonni
- tööriist
- töövahendid
- koolitatud
- koolitus
- Teisipäev
- Ülikoolid
- Avalikustas
- us
- kasutama
- sort
- eri
- kas
- mis
- WHO
- will
- Töö
- kirjalik
- Vale
- sephyrnet