OpenAI har udgivet et gratis onlineværktøj designet til at forudsige, om en tekstpassage er genereret af AI eller skrevet af et menneske.
Softwaren, der kaldes "AI Text Classifier", er drevet af en sprogmodel og vurderer sandsynligheden for, at en del tekst blev genereret af en AI-model på en fempunktsskala, der går fra "meget usandsynligt" til "uklart" til "sandsynligt" ." Vi prøvede det på nogle af vores artikler fra et årti eller deromkring siden, og adskillige gribbe kan være kede af at lære, at deres kopi blev vurderet som "uklart, om det er AI-genereret."
Værktøjet, der blev afsløret tirsdag, debuterede måneder efter opstarten lanceret ChatGPT, en chatbot, der automatisk genererer tekst, når den bliver instrueret, såsom at besvare et spørgsmål, fortælle en vittighed eller skrive et digt. Faktisk var OpenAI med til at sætte skub i stigningen i prattle-streaming-bots og tilbyder nu et halvnødvendigt værktøj til at opdage denne slags ting.
Skoler og universiteter i USA, Frankrig og Indien har i hvert fald gjort det siden bandlyst studerende fra at få adgang til ChatGPT ved hjælp af deres netværk eller fra at indsende essays genereret af softwaren.
Klassifikatoren er nogle gange ekstremt sikker på en forkert forudsigelse
Eksperter frygter også, at tekstgenereringsmodeller kan bruges til at udsende tonsvis af misinformation, phishing-e-mails, massevis af nonsens for at oversvømme internettet. Flere organisationer og dataloger har derfor startet arbejdet med deres egne klassificeringsværktøjer til at opdage AI-genereret indhold.
OpenAI's AI Text Classifier er ikke perfekt. "Vores tilsigtede brug for AI Text Classifier er at fremme samtale om skelnen mellem menneskeskrevet og AI-genereret indhold," det Microsoft-bankrollerede laboratorium sagde.
"Resultaterne kan hjælpe, men bør ikke være det eneste bevis, når det besluttes, om et dokument blev genereret med AI," tilføjede organisationen. "Modellen er trænet på menneskeskreven tekst fra en række forskellige kilder, som måske ikke er repræsentative for alle slags menneskeskrevne tekster."
AI Text Classifier er designet til at opdage maskinfremstillet tekst fra forskellige kilder, ikke kun dens overhypede ChatGPT. Den blev trænet i både AI-skrevet tekst fra 34 modeller bygget af fem organisationer og menneskeskreven tekst skrabet fra internettet og taget fra et internt firmadatasæt.
Værktøjet kræver teksteksempler på 1,000 tegn og fungerer ikke godt til andre sprog end engelsk. OpenAI's linjechef Jan Leike fortalt Axios dens forudsigelser kan producere falske positive eller falske negative.
Klassificeringen vil ikke engang være så nyttig for lærere, der ønsker at vurdere, om en elev har afleveret en opgave genereret af software som ChatGPT. AI-tekstklassificeringen er ikke følsom nok til at fortælle, hvilke sætninger eller uddrag, der kan have været AI's arbejde, så enhver tekst, der er produceret af en computer og justeret af et menneske, kan unddrage sig opdagelse.
"Vi advarer om, at modellen ikke er blevet omhyggeligt evalueret på mange af de forventede principielle mål - herunder studerendes essays, automatiserede desinformationskampagner eller chatudskrifter. Faktisk er klassifikatorer baseret på neurale netværk kendt for at være dårligt kalibreret uden for deres træningsdata. For input, der er meget forskellige fra tekst i vores træningssæt, er klassificereren nogle gange ekstremt sikker på en forkert forudsigelse,” advarede laboratoriet.
OpenAI er også efter sigende udforske andre tilgange til at detektere AI-genereret tekst, herunder en vandmærketeknik, der kan være indbygget i dets fremtidige produkter.
Registret har bedt OpenAI om yderligere, helst ikke-AI-genereret, kommentar. ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- Platoblokkæde. Web3 Metaverse Intelligence. Viden forstærket. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- Om
- Adgang
- tilføjet
- Efter
- AI
- Alle
- Midt
- ,
- tilgange
- artikler
- Automatiseret
- automatisk
- Axios
- baseret
- mellem
- bots
- bygget
- Kampagner
- omhyggeligt
- tegn
- chatbot
- ChatGPT
- KOMMENTAR
- selskab
- computer
- sikker
- indhold
- Samtale
- kunne
- data
- debuterede
- årti
- Beslutter
- konstrueret
- Detektion
- forskellige
- misinformation
- dokumentet
- effekt
- emails
- Engelsk
- nok
- Ether (ETH)
- evalueret
- Endog
- bevismateriale
- forventet
- Udforskning
- ekstremt
- frygt
- frygt
- Foster
- Fransk vin
- Gratis
- fra
- Brændstof
- yderligere
- fremtiden
- genereret
- genererer
- Goes
- hoved
- hjælpe
- hjulpet
- HTTPS
- menneskelig
- in
- Herunder
- Indien
- interne
- Internet
- IT
- Jan
- Venlig
- kendt
- lab
- Sprog
- Sprog
- LÆR
- Sandsynlig
- leder
- mange
- misinformation
- model
- modeller
- måned
- net
- Neural
- neurale netværk
- Tilbud
- online
- OpenAI
- organisation
- organisationer
- Andet
- uden for
- egen
- perfekt
- Phishing
- stykke
- plato
- Platon Data Intelligence
- PlatoData
- strøm
- forudsige
- forudsigelse
- Forudsigelser
- princippet
- producere
- produceret
- Produkter
- spørgsmål
- priser
- frigivet
- repræsentativt
- Kræver
- Resultater
- Rise
- Scale
- forskere
- følsom
- sæt
- flere
- bør
- siden
- So
- Software
- nogle
- Kilder
- påbegyndt
- opstart
- studerende
- Studerende
- indsendt
- sådan
- mål
- lærere
- deres
- derfor
- til
- tons
- værktøj
- værktøjer
- uddannet
- Kurser
- Tirsdag
- Universiteter
- afsløret
- us
- brug
- række
- forskellige
- hvorvidt
- som
- WHO
- vilje
- Arbejde
- skriftlig
- Forkert
- zephyrnet