OpenAI a lansat un instrument online gratuit conceput pentru a prezice dacă un pasaj de text a fost generat de AI sau scris de un om.
Numit „AI Text Classifier”, software-ul este alimentat de un model de limbă și evaluează probabilitatea ca o bucată de text să fie generată de un model AI pe o scară de cinci puncte, care merge de la „foarte puțin probabil” la „neclar” la „probabil”. .” Am încercat-o pe unele dintre articolele noastre de acum un deceniu și mai mulți vulturi ar putea fi supărați să afle că copia lor a fost evaluată „neclară dacă este generată de AI”.
Instrumentul, dezvăluit marți, a debutat la câteva luni după pornire a lansat ChatGPT, un chatbot care generează automat text atunci când este instruit, cum ar fi să răspunzi la o întrebare, să spui o glumă sau să scrie o poezie. De fapt, OpenAI a contribuit la creșterea numărului de roboți care vorbesc și oferă acum un instrument pe jumătate pentru a detecta acest tip de lucruri.
Școlile și universitățile din SUA, Franța și India, cel puțin, au de atunci interzis studenților să acceseze ChatGPT folosind rețelele lor sau să trimită eseuri generate de software.
Clasificatorul este uneori extrem de încrezător într-o predicție greșită
Experții se tem, de asemenea, că modelele de generare de text ar putea fi folosite pentru a emite tone de dezinformare, e-mailuri de phishing, mulțime și mulțime de prostii pentru a inunda internetul. Mai multe organizații iar informaticienii au început, prin urmare, să lucreze la propriile lor instrumente de clasificare pentru a detecta conținutul generat de AI.
Clasificatorul de text AI de la OpenAI nu este perfect. „Utilizarea pe care o intenționăm pentru AI Text Classifier este de a stimula conversația despre distincția dintre conținutul scris de oameni și conținutul generat de AI”, a spus laboratorul finanțat de Microsoft. a spus.
„Rezultatele pot ajuta, dar nu ar trebui să fie singura dovadă, atunci când se decide dacă un document a fost generat cu AI”, a adăugat organizația. „Modelul este antrenat pe text scris de oameni dintr-o varietate de surse, care ar putea să nu fie reprezentative pentru toate tipurile de text scris de oameni.”
Clasificatorul de text AI este conceput pentru a detecta textul creat de mașini din diverse surse, nu doar ChatGPT-ul său exagerat. A fost instruit atât pe text scris prin inteligență artificială din 34 de modele construite de cinci organizații, cât și pe text scris de către oameni, extras de pe internet și preluat dintr-un set de date intern al companiei.
Instrumentul necesită mostre de text de 1,000 de caractere și nu funcționează bine pentru alte limbi decât engleza. Șeful de aliniere al OpenAI, Jan Leike a spus Predicțiile sale Axios pot produce false pozitive sau false negative.
Clasificatorul nu va fi chiar atât de util pentru profesorii care doresc să evalueze dacă un student a trimis o temă generată de software precum ChatGPT. Clasificatorul de text AI nu este suficient de sensibil pentru a spune ce propoziții sau fragmente ar fi putut fi opera AI, așa că orice text produs de un computer și modificat de un om poate evita detectarea.
„Atenționăm că modelul nu a fost evaluat cu atenție în ceea ce privește multe dintre obiectivele principale așteptate – inclusiv eseuri ale studenților, campanii automate de dezinformare sau transcrieri de chat. Într-adevăr, se știe că clasificatoarele bazate pe rețele neuronale sunt prost calibrate în afara datelor lor de antrenament. Pentru intrările care sunt foarte diferite de textul din setul nostru de antrenament, clasificatorul este uneori extrem de încrezător într-o predicție greșită”, a avertizat laboratorul.
OpenAI este, de asemenea relatărilor explorarea altor abordări pentru a detecta textul generat de inteligență artificială, inclusiv o tehnică de filigranare care poate fi integrată în produsele sale viitoare.
Registrul a cerut OpenAI pentru comentarii suplimentare, de preferință negenerate de AI. ®
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- Platoblockchain. Web3 Metaverse Intelligence. Cunoștințe amplificate. Accesați Aici.
- Sursa: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- Despre Noi
- accesarea
- adăugat
- După
- AI
- TOATE
- În mijlocul
- și
- abordari
- bunuri
- Automata
- în mod automat
- Axios
- bazat
- între
- roboţii
- construit
- Campanii
- cu grijă
- caractere
- chatbot
- Chat GPT
- comentariu
- companie
- calculator
- încrezător
- conţinut
- Conversație
- ar putea
- de date
- a debutat
- deceniu
- Decidând
- proiectat
- Detectare
- diferit
- dezinformare
- document
- efect
- e-mailuri
- Engleză
- suficient de
- Eter (ETH)
- evaluat
- Chiar
- dovadă
- de aşteptat
- Explorarea
- extrem
- frică
- temeri
- Foster
- Franţa
- Gratuit
- din
- Combustibil
- mai mult
- viitor
- generată
- generează
- Merge
- cap
- ajutor
- a ajutat
- HTTPS
- uman
- in
- Inclusiv
- India
- intern
- Internet
- IT
- Jan
- Copil
- cunoscut
- de laborator
- limbă
- Limbă
- AFLAȚI
- Probabil
- cautati
- multe
- Dezinformare
- model
- Modele
- luni
- rețele
- neural
- rețele neuronale
- promoții
- on-line
- OpenAI
- organizație
- organizații
- Altele
- exterior
- propriu
- Perfect
- Phishing
- bucată
- Plato
- Informații despre date Platon
- PlatoData
- alimentat
- prezice
- prezicere
- Predictii
- principiu
- produce
- Produs
- Produse
- întrebare
- tarife
- eliberat
- reprezentant
- Necesită
- REZULTATE
- Ridica
- Scară
- oamenii de stiinta
- sensibil
- set
- câteva
- să
- întrucât
- So
- Software
- unele
- Surse
- început
- lansare
- student
- Elevi
- prezentat
- astfel de
- obiective
- profesori
- lor
- prin urmare
- la
- Ton
- instrument
- Unelte
- dresat
- Pregătire
- marţi
- Universități
- dezvaluit
- us
- utilizare
- varietate
- diverse
- dacă
- care
- OMS
- voi
- Apartamente
- scris
- Greșit
- zephyrnet