Az OpenAI kiadott egy ingyenes online eszközt, amelynek célja annak előrejelzése, hogy egy szövegrészt mesterséges intelligencia generált, vagy ember írt.
Az „AI Text Classifier” névre keresztelt szoftvert egy nyelvi modell hajtja, és egy ötfokú skálán értékeli, hogy egy szövegrészletet egy AI-modell generált, amely a „nagyon valószínűtlen”-től a „nem egyértelmű”-től a „valószínű”-ig terjed. .” Kipróbáltuk néhány, körülbelül egy évtizeddel ezelőtti cikkünkön, és több keselyű is felháborodott, amikor megtudja, hogy példányuk „nem világos, hogy mesterséges intelligencia által generált-e”.
A kedden bemutatott eszköz hónapokkal az indulás után debütált indított A ChatGPT, egy csevegőbot, amely automatikusan szöveget generál, amikor utasításokat kap, például válaszol egy kérdésre, elmond egy viccet vagy ír egy verset. Valójában az OpenAI elősegítette a csevegést sugárzó robotok terjedését, és most egy félszeg eszközt kínál az ilyen jellegű dolgok észlelésére.
Azóta legalábbis az Egyesült Államok, Franciaország és India iskolái és egyetemei betiltották a hallgatók a ChatGPT-hez férhetnek hozzá hálózataik segítségével, vagy a szoftver által generált esszéket küldhetnek be.
Az osztályozó néha rendkívül bízik a rossz előrejelzésben
A szakértők attól is tartanak, hogy a szöveggenerációs modelleket rengeteg téves információ, adathalász e-mailek, tömbök és ostobaságok kibocsátására használhatják, amelyek eláraszthatják az internetet. Számos szervezetek és az informatikusok ezért elkezdtek dolgozni saját osztályozó eszközeiken az AI által generált tartalom észlelésére.
Az OpenAI AI szövegosztályozója nem tökéletes. „Az AI szövegosztályozó célja az, hogy párbeszédet ébresszünk az ember által írt és a mesterséges intelligencia által generált tartalom közötti különbségtételről.” mondott.
"Az eredmények segíthetnek, de nem lehetnek az egyetlen bizonyítékok annak eldöntésekor, hogy egy dokumentumot mesterséges intelligencia segítségével hoztak-e létre" - tette hozzá a szervezet. "A modellt különféle forrásokból származó, ember által írt szövegekre képezték ki, amelyek nem feltétlenül reprezentatívak minden ember által írt szövegre."
Az AI szövegosztályozót úgy tervezték, hogy felismerje a különféle forrásokból származó gépi szövegeket, nem csak a túlzottan felkapott ChatGPT-t. Mind az öt szervezet által épített 34 modellből származó mesterséges intelligencia által írt szövegre, mind az internetről kikapart, és egy belső vállalati adatkészletből származó, ember által írt szövegre képezték.
Az eszköz 1,000 karakteres szövegmintákat igényel, és nem működik jól az angoltól eltérő nyelveken. Jan Leike, az OpenAI összehangolási vezetője mondta Az Axios előrejelzései hamis pozitív vagy hamis negatív eredményeket produkálhatnak.
Az osztályozó még olyan tanárok számára sem lesz hasznos, akik azt szeretnék felmérni, hogy egy diák beküldte-e a ChatGPT-hez hasonló szoftver által generált feladatot. A mesterséges intelligencia szövegosztályozója nem elég érzékeny ahhoz, hogy megállapítsa, mely mondatok vagy részletek származhattak a mesterséges intelligenciából, így a számítógép által előállított és az ember által módosított szövegek elkerülhetik az észlelést.
„Figyelmeztetjük, hogy a modellt nem alaposan értékelték ki a várt fő célpontok közül sok – ideértve a tanulói esszéket, az automatizált dezinformációs kampányokat vagy a csevegési átiratokat. Valójában a neurális hálózatokon alapuló osztályozókról ismert, hogy a képzési adataikon kívül rosszul kalibráltak. Azoknál a bemeneteknél, amelyek nagyon eltérnek a képzési készletünkben található szövegtől, az osztályozó néha rendkívül bízik a rossz előrejelzésben” – figyelmeztetett a laboratórium.
Az OpenAI is az állítólag más megközelítések feltárása a mesterséges intelligencia által generált szöveg észlelésére, beleértve a jövőbeli termékeibe beépíthető vízjel technikát is.
A regisztráció további, lehetőleg nem mesterséges intelligencia által generált megjegyzést kért az OpenAI-tól. ®
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. Hozzáférés itt.
- Forrás: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- Rólunk
- Hozzáférés
- hozzáadott
- Után
- AI
- Minden termék
- Között
- és a
- megközelít
- cikkek
- Automatizált
- automatikusan
- Axios
- alapján
- között
- botok
- épült
- Kampányok
- gondosan
- karakter
- chatbot
- ChatGPT
- megjegyzés
- vállalat
- számítógép
- magabiztos
- tartalom
- Beszélgetés
- tudott
- dátum
- debütált
- évtized
- Döntés
- tervezett
- Érzékelés
- különböző
- hamis információ
- dokumentum
- hatás
- e-mailek
- Angol
- elég
- Eter (ETH)
- értékelték
- Még
- bizonyíték
- várható
- Feltárása
- rendkívüli módon
- félelem
- félelmek
- Foster
- Franciaország
- Ingyenes
- ból ből
- Üzemanyag
- további
- jövő
- generált
- generál
- Goes
- fej
- segít
- segített
- HTTPS
- emberi
- in
- Beleértve
- India
- belső
- Internet
- IT
- január
- Kedves
- ismert
- labor
- nyelv
- Nyelvek
- TANUL
- Valószínű
- keres
- sok
- félrevezető tájékoztatás
- modell
- modellek
- hónap
- hálózatok
- ideg-
- neurális hálózatok
- Ajánlatok
- online
- OpenAI
- szervezet
- szervezetek
- Más
- kívül
- saját
- tökéletes
- Adathalászat
- darab
- Plató
- Platón adatintelligencia
- PlatoData
- powered
- előre
- előrejelzés
- Tippek
- alapelv
- gyárt
- Készült
- Termékek
- kérdés
- Az árak
- felszabaduló
- reprezentatív
- megköveteli,
- Eredmények
- Emelkedik
- Skála
- tudósok
- érzékeny
- készlet
- számos
- kellene
- óta
- So
- szoftver
- néhány
- Források
- kezdődött
- indítás
- diák
- Diákok
- benyújtott
- ilyen
- célok
- tanárok
- A
- azok
- ebből adódóan
- nak nek
- Tónus
- szerszám
- szerszámok
- kiképzett
- Képzések
- Kedd
- Egyetemek
- bemutatta
- us
- használ
- fajta
- különféle
- vajon
- ami
- WHO
- lesz
- Munka
- írott
- Rossz
- zephyrnet