OpenAI hat ein kostenloses Online-Tool veröffentlicht, mit dem vorhergesagt werden kann, ob eine Textpassage von KI generiert oder von einem Menschen geschrieben wurde.
Die als „AI Text Classifier“ bezeichnete Software basiert auf einem Sprachmodell und bewertet die Wahrscheinlichkeit, dass ein Textabschnitt von einem KI-Modell generiert wurde, auf einer Fünf-Punkte-Skala, die von „sehr unwahrscheinlich“ über „unklar“ bis „wahrscheinlich“ reicht .“ Wir haben es vor etwa einem Jahrzehnt bei einigen unserer Artikel ausprobiert, und einige Geier sind möglicherweise verärgert, wenn sie erfahren, dass ihre Kopie als „unklar, ob sie von KI generiert wurde“ eingestuft wurde.
Das Tool, das am Dienstag vorgestellt wurde, debütierte Monate nach dem Start ins Leben gerufen ChatGPT, ein Chatbot, der automatisch Text generiert, wenn er dazu aufgefordert wird, z. B. um eine Frage zu beantworten, einen Witz zu erzählen oder ein Gedicht zu schreiben. Tatsächlich hat OpenAI dazu beigetragen, den Anstieg von Prattle-Streaming-Bots anzuheizen, und bietet jetzt ein halbherziges Tool, um diese Art von Zeug zu erkennen.
Zumindest Schulen und Universitäten in den USA, Frankreich und Indien haben es seitdem getan verboten Schüler daran hindern, über ihre Netzwerke auf ChatGPT zuzugreifen oder von der Software generierte Aufsätze einzureichen.
Der Klassifikator ist manchmal sehr zuversichtlich in eine falsche Vorhersage
Experten befürchten auch, dass Textgenerierungsmodelle dazu verwendet werden könnten, Tonnen von Fehlinformationen, Phishing-E-Mails, Unmengen und Unsinn auszusenden, um das Internet zu überschwemmen. Mehrere Organisationen und Informatiker haben daher mit der Arbeit an eigenen Klassifikator-Tools begonnen, um KI-generierte Inhalte zu erkennen.
Der AI Text Classifier von OpenAI ist nicht perfekt. „Unsere beabsichtigte Verwendung für den KI-Textklassifizierer besteht darin, das Gespräch über die Unterscheidung zwischen von Menschen geschriebenen und KI-generierten Inhalten zu fördern“, sagt das von Microsoft finanzierte Labor sagte.
„Die Ergebnisse können hilfreich sein, sollten aber nicht der einzige Beweis sein, wenn entschieden wird, ob ein Dokument mit KI erstellt wurde“, fügte die Organisation hinzu. „Das Modell wird mit von Menschen geschriebenem Text aus einer Vielzahl von Quellen trainiert, die möglicherweise nicht für alle Arten von von Menschen geschriebenem Text repräsentativ sind.“
Der AI Text Classifier wurde entwickelt, um maschinell erstellten Text aus verschiedenen Quellen zu erkennen, nicht nur das überbewertete ChatGPT. Es wurde sowohl mit KI-geschriebenem Text aus 34 Modellen trainiert, die von fünf Organisationen erstellt wurden, als auch mit von Menschen geschriebenem Text, der aus dem Internet geschabt und aus einem internen Firmendatensatz entnommen wurde.
Das Tool erfordert Textbeispiele mit 1,000 Zeichen und funktioniert nicht gut für andere Sprachen als Englisch. Jan Leike, Head of Alignment bei OpenAI sagte Axios seine Vorhersagen können falsch positive oder falsch negative Ergebnisse liefern.
Der Klassifikator wird nicht einmal für Lehrer nützlich sein, die beurteilen möchten, ob ein Schüler eine Aufgabe eingereicht hat, die von einer Software wie ChatGPT erstellt wurde. Der KI-Textklassifizierer ist nicht empfindlich genug, um festzustellen, welche Sätze oder Schnipsel möglicherweise von KI stammen, sodass jeder von einem Computer erstellte und von einem Menschen optimierte Text der Erkennung entgehen kann.
„Wir warnen davor, dass das Modell in Bezug auf viele der erwarteten Hauptziele nicht sorgfältig evaluiert wurde – einschließlich Studentenaufsätzen, automatisierten Desinformationskampagnen oder Chat-Transkripten. Tatsächlich ist bekannt, dass auf neuronalen Netzen basierende Klassifikatoren außerhalb ihrer Trainingsdaten schlecht kalibriert sind. Bei Eingaben, die sich stark vom Text in unserem Trainingssatz unterscheiden, ist der Klassifikator manchmal sehr zuversichtlich, eine falsche Vorhersage zu treffen“, warnte das Labor.
OpenAI ist auch Berichten zufolge Erforschung anderer Ansätze zur Erkennung von KI-generiertem Text, einschließlich einer Wasserzeichentechnik, die in seine zukünftigen Produkte eingebaut werden könnte.
Das Register hat OpenAI um weitere, vorzugsweise nicht von der KI generierte, Kommentare gebeten. ®
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- Platoblockkette. Web3-Metaverse-Intelligenz. Wissen verstärkt. Hier zugreifen.
- Quelle: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- LiveBuzz
- Zugriff
- hinzugefügt
- Nach der
- AI
- Alle
- Inmitten
- und
- Ansätze
- Artikel
- Automatisiert
- Im Prinzip so, wie Sie es von Google Maps kennen.
- Axios
- basierend
- zwischen
- Bots
- erbaut
- Kampagnen
- vorsichtig
- Zeichen
- Chatbot
- ChatGPT
- Kommentar
- Unternehmen
- Computer
- zuversichtlich
- Inhalt
- Gespräch
- könnte
- technische Daten
- debütierte
- Jahrzehnte
- Entscheiden
- entworfen
- Entdeckung
- anders
- Desinformation
- Dokument
- bewirken
- E-Mails
- Englisch
- genug
- Äther (ETH)
- Bewerten
- Sogar
- Beweis
- erwartet
- Möglichkeiten sondieren
- äußerst
- Angst
- Ängste
- Fördern
- Frankreich
- Frei
- für
- Treibstoff
- weiter
- Zukunft
- erzeugt
- erzeugt
- Goes
- ganzer
- Hilfe
- dazu beigetragen,
- HTTPS
- human
- in
- Einschließlich
- Indien
- intern
- Internet
- IT
- Januar
- Art
- bekannt
- Labor
- Sprache
- Sprachen
- LERNEN
- wahrscheinlich
- suchen
- viele
- Fehlinformationen
- Modell
- für
- Monat
- Netzwerke
- Neural
- Neuronale Netze
- Angebote
- Online
- OpenAI
- Organisation
- Organisationen
- Andere
- aussen
- besitzen
- perfekt
- Phishing
- Stück
- Plato
- Datenintelligenz von Plato
- PlatoData
- angetriebene
- vorhersagen
- Prognose
- Prognosen
- Prinzip
- produziert
- Produziert
- Produkte
- Frage
- Honorar
- freigegeben
- Vertreter
- erfordert
- Die Ergebnisse
- Rise
- Skalieren
- Wissenschaftler
- empfindlich
- kompensieren
- mehrere
- sollte
- da
- So
- Software
- einige
- Quellen
- begonnen
- Anfang
- Schüler und Studenten
- Die Kursteilnehmer
- eingereicht
- so
- Ziele
- auch Lehrer
- Das
- ihr
- deswegen
- zu
- Ton
- Werkzeug
- Werkzeuge
- trainiert
- Ausbildung
- Dienstag
- Universitäten
- enthüllt
- us
- -
- Vielfalt
- verschiedene
- ob
- welche
- WHO
- werden wir
- Arbeiten
- geschrieben
- Falsch
- Zephyrnet