OpenAI heeft een gratis online tool uitgebracht die is ontworpen om te voorspellen of een tekstpassage door AI is gegenereerd of door een mens is geschreven.
De software, ook wel de "AI Text Classifier" genoemd, wordt aangedreven door een taalmodel en beoordeelt de waarschijnlijkheid dat een stuk tekst is gegenereerd door een AI-model op een vijfpuntsschaal die loopt van "zeer onwaarschijnlijk" tot "onduidelijk" tot "waarschijnlijk". .” We hebben het geprobeerd op sommige van onze artikelen van ongeveer tien jaar geleden, en verschillende aasgieren zijn misschien geïrriteerd om te horen dat hun exemplaar werd beoordeeld als "onduidelijk of het door AI is gegenereerd".
De tool, die dinsdag werd onthuld, debuteerde maanden na het opstarten gelanceerd ChatGPT, een chatbot die automatisch tekst genereert wanneer dit wordt gevraagd, zoals het beantwoorden van een vraag, het vertellen van een grap of het schrijven van een gedicht. In feite heeft OpenAI bijgedragen aan de opkomst van babbel-streaming-bots en biedt het nu een halfslachtige tool om dit soort dingen te detecteren.
Sindsdien hebben scholen en universiteiten in de VS, Frankrijk en India dat tenminste gedaan verboden studenten van toegang tot ChatGPT via hun netwerken of van het indienen van essays die door de software zijn gegenereerd.
De classifier is soms zeer zeker van een verkeerde voorspelling
Experts vrezen ook dat modellen voor het genereren van tekst kunnen worden gebruikt om tonnen verkeerde informatie, phishing-e-mails, stapels onzin uit te zenden om het internet te overspoelen. Meerdere organisaties en computerwetenschappers zijn daarom begonnen met het werken aan hun eigen classificatietools om door AI gegenereerde inhoud te detecteren.
De AI-tekstclassificatie van OpenAI is niet perfect. "Ons beoogde gebruik van de AI-tekstclassificatie is om gesprekken te bevorderen over het onderscheid tussen door mensen geschreven en door AI gegenereerde inhoud", aldus het door Microsoft gefinancierde lab zei.
"De resultaten kunnen helpen, maar mogen niet het enige bewijsstuk zijn, om te beslissen of een document met AI is gegenereerd", voegde de organisatie eraan toe. "Het model is getraind op door mensen geschreven tekst uit verschillende bronnen, die mogelijk niet representatief zijn voor alle soorten door mensen geschreven tekst."
De AI Text Classifier is ontworpen om door machines gemaakte tekst uit verschillende bronnen te detecteren, niet alleen de overdreven gehypte ChatGPT. Het is getraind op zowel door AI geschreven tekst van 34 modellen die door vijf organisaties zijn gebouwd, als door mensen geschreven tekst die van internet is gehaald en uit een interne bedrijfsdataset is gehaald.
De tool vereist tekstvoorbeelden van 1,000 tekens en werkt niet goed voor andere talen dan Engels. Hoofd uitlijning van OpenAI, Jan Leike vertelde De voorspellingen van Axios kunnen fout-positieven of fout-negatieven opleveren.
De classifier zal niet eens zo handig zijn voor docenten die willen beoordelen of een student een opdracht heeft ingediend die is gegenereerd door software zoals ChatGPT. De AI-tekstclassificatie is niet gevoelig genoeg om te bepalen welke zinnen of fragmenten mogelijk het werk van AI zijn geweest, dus elke tekst die door een computer is geproduceerd en door een mens is aangepast, kan detectie ontwijken.
“We waarschuwen dat het model niet zorgvuldig is geëvalueerd op veel van de verwachte hoofddoelen, waaronder essays van studenten, geautomatiseerde desinformatiecampagnes of chattranscripties. Het is inderdaad bekend dat classifiers op basis van neurale netwerken slecht gekalibreerd zijn buiten hun trainingsgegevens om. Voor invoer die heel anders is dan tekst in onze trainingsset, heeft de classificator soms extreem veel vertrouwen in een verkeerde voorspelling”, waarschuwde het lab.
OpenAI is dat ook naar verluidt het verkennen van andere benaderingen om door AI gegenereerde tekst te detecteren, inclusief een watermerktechniek die in toekomstige producten kan worden ingebouwd.
Het register heeft OpenAI om verder, bij voorkeur niet door AI gegenereerd, commentaar gevraagd. ®
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- Platoblockchain. Web3 Metaverse Intelligentie. Kennis versterkt. Toegang hier.
- Bron: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- Over
- toegang
- toegevoegd
- Na
- AI
- Alles
- Te midden van
- en
- benaderingen
- artikelen
- geautomatiseerde
- webmaster.
- Axios
- gebaseerde
- tussen
- bots
- bebouwd
- Campagnes
- voorzichtig
- tekens
- Chatbot
- ChatGPT
- commentaar
- afstand
- computer
- zeker
- content
- Gesprek
- kon
- gegevens
- debuteerde
- decennium
- Beslissen
- ontworpen
- Opsporing
- anders
- disinformatie
- document
- effect
- e-mails
- Engels
- genoeg
- Ether (ETH)
- geëvalueerd
- Zelfs
- bewijzen
- verwacht
- Verkennen
- uiterst
- angst
- angsten
- Bevorderen
- Frankrijk
- Gratis
- oppompen van
- Brandstof
- verder
- toekomst
- gegenereerde
- genereert
- Goes
- hoofd
- hulp
- geholpen
- HTTPS
- menselijk
- in
- Inclusief
- Indië
- intern
- Internet
- IT
- jan
- Soort
- bekend
- laboratorium
- taal
- Talen
- LEARN
- Waarschijnlijk
- op zoek
- veel
- Desinformatie
- model
- modellen
- maanden
- netwerken
- Neural
- neurale netwerken
- Aanbod
- online.
- OpenAI
- organisatie
- organisaties
- Overige
- buiten
- het te bezitten.
- Phishing
- stuk
- Plato
- Plato gegevensintelligentie
- PlatoData
- aangedreven
- voorspellen
- voorspelling
- Voorspellingen
- principe
- produceren
- geproduceerd
- Producten
- vraag
- Tarieven
- uitgebracht
- vertegenwoordiger
- vereist
- Resultaten
- Stijgen
- Scale
- wetenschappers
- gevoelig
- reeks
- verscheidene
- moet
- sinds
- So
- Software
- sommige
- bronnen
- gestart
- startup
- Student
- Leerlingen
- ingediend
- dergelijk
- doelen
- leraren
- De
- hun
- daarom
- naar
- ton
- tools
- tools
- getraind
- Trainingen
- dinsdag
- Universiteiten
- onthuld
- us
- .
- variëteit
- divers
- of
- welke
- WIE
- wil
- Mijn werk
- geschreven
- Verkeerd
- zephyrnet