Το OpenAI κυκλοφόρησε ένα δωρεάν διαδικτυακό εργαλείο που έχει σχεδιαστεί για να προβλέπει εάν ένα απόσπασμα κειμένου δημιουργήθηκε από AI ή γράφτηκε από άνθρωπο.
Με το όνομα «AI Text Classifier», το λογισμικό τροφοδοτείται από ένα μοντέλο γλώσσας και βαθμολογεί την πιθανότητα να δημιουργηθεί ένα κομμάτι κειμένου από ένα μοντέλο AI σε μια κλίμακα πέντε βαθμών που πηγαίνει από «πολύ απίθανο» σε «ασαφές» σε «πιθανό». .» Το δοκιμάσαμε σε μερικά από τα άρθρα μας πριν από μια δεκαετία περίπου, και αρκετοί γύπες μπορεί να απογοητευτούν για να μάθουν ότι το αντίγραφό τους βαθμολογήθηκε ως "ασαφές εάν έχει δημιουργηθεί από AI".
Το εργαλείο, που παρουσιάστηκε την Τρίτη, έκανε το ντεμπούτο του μήνες μετά την εκκίνηση ξεκίνησε ChatGPT, ένα chatbot που δημιουργεί αυτόματα κείμενο όταν του δίνεται οδηγίες, όπως απάντηση σε μια ερώτηση, λέγοντας ένα αστείο ή γράφοντας ένα ποίημα. Ουσιαστικά, το OpenAI βοήθησε στην άνοδο των bot που μεταδίδουν ρομπότ και τώρα προσφέρει ένα μισό εργαλείο για τον εντοπισμό αυτού του είδους.
Σχολεία και πανεπιστήμια στις ΗΠΑ, τη Γαλλία και την Ινδία, τουλάχιστον, έκτοτε απαγορευθεί μαθητές από την πρόσβαση στο ChatGPT χρησιμοποιώντας τα δίκτυά τους ή από την υποβολή δοκιμίων που δημιουργούνται από το λογισμικό.
Ο ταξινομητής είναι μερικές φορές εξαιρετικά σίγουρος σε μια λανθασμένη πρόβλεψη
Οι ειδικοί φοβούνται επίσης ότι τα μοντέλα δημιουργίας κειμένου θα μπορούσαν να χρησιμοποιηθούν για να εκπέμψουν τόνους παραπληροφόρησης, ηλεκτρονικών μηνυμάτων ηλεκτρονικού "ψαρέματος" (phishing), ομαδικών ειδών και σωρού ανοησίας για να κατακλύσουν το Διαδίκτυο. Αρκετά οργανώσεις Ως εκ τούτου, οι επιστήμονες υπολογιστών έχουν ξεκινήσει να εργάζονται για τα δικά τους εργαλεία ταξινόμησης για τον εντοπισμό περιεχομένου που δημιουργείται από AI.
Ο ταξινομητής κειμένου AI του OpenAI δεν είναι τέλειος. «Η προβλεπόμενη χρήση μας για τον ταξινομητή κειμένου AI είναι να ενθαρρύνουμε τη συζήτηση σχετικά με τη διάκριση μεταξύ περιεχομένου που δημιουργείται από τον άνθρωπο και του περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη», το τραπεζικό εργαστήριο της Microsoft είπε.
«Τα αποτελέσματα μπορεί να βοηθήσουν, αλλά δεν πρέπει να είναι το μοναδικό αποδεικτικό στοιχείο, όταν αποφασίζουμε εάν ένα έγγραφο δημιουργήθηκε με AI», πρόσθεσε ο οργανισμός. «Το μοντέλο εκπαιδεύεται σε ανθρώπινο κείμενο από διάφορες πηγές, οι οποίες μπορεί να μην είναι αντιπροσωπευτικές όλων των ειδών ανθρώπινου κειμένου».
Το AI Text Classifier έχει σχεδιαστεί για να ανιχνεύει μηχάνημα κατασκευασμένο κείμενο από διάφορες πηγές, όχι μόνο από το ChatGPT που είναι υπερβολικά διαφημισμένο. Εκπαιδεύτηκε τόσο σε κείμενο γραμμένο με τεχνητή νοημοσύνη από 34 μοντέλα που κατασκευάστηκαν από πέντε οργανισμούς, όσο και σε ανθρώπινο γραπτό κείμενο που αφαιρέθηκε από το διαδίκτυο και ελήφθη από ένα εσωτερικό σύνολο δεδομένων εταιρείας.
Το εργαλείο απαιτεί δείγματα κειμένου 1,000 χαρακτήρων και δεν λειτουργεί καλά για άλλες γλώσσες εκτός από τα αγγλικά. Ο επικεφαλής ευθυγράμμισης του OpenAI, Jan Leike είπε Οι προβλέψεις του Axios μπορούν να παράγουν ψευδώς θετικά ή ψευδώς αρνητικά.
Ο ταξινομητής δεν θα είναι καν τόσο χρήσιμος για καθηγητές που θέλουν να αξιολογήσουν εάν ένας μαθητής υπέβαλε μια εργασία που δημιουργήθηκε από λογισμικό όπως το ChatGPT. Το AI Text Classifier δεν είναι αρκετά ευαίσθητο για να πει ποιες προτάσεις ή αποσπάσματα μπορεί να ήταν έργο της τεχνητής νοημοσύνης, επομένως οποιοδήποτε κείμενο που παράγεται από υπολογιστή και τροποποιείται από έναν άνθρωπο μπορεί να αποφύγει τον εντοπισμό.
«Προειδοποιούμε ότι το μοντέλο δεν έχει αξιολογηθεί προσεκτικά σε πολλούς από τους αναμενόμενους βασικούς στόχους – συμπεριλαμβανομένων δοκιμίων μαθητών, αυτοματοποιημένων εκστρατειών παραπληροφόρησης ή μεταγραφών συνομιλιών. Πράγματι, οι ταξινομητές που βασίζονται σε νευρωνικά δίκτυα είναι γνωστό ότι είναι ανεπαρκώς βαθμονομημένοι εκτός των δεδομένων εκπαίδευσής τους. Για εισόδους που διαφέρουν πολύ από το κείμενο στο εκπαιδευτικό μας σύνολο, ο ταξινομητής είναι μερικές φορές εξαιρετικά σίγουρος για μια λανθασμένη πρόβλεψη», προειδοποίησε το εργαστήριο.
Το OpenAI είναι επίσης σύμφωνα με πληροφορίες διερεύνηση άλλων προσεγγίσεων για τον εντοπισμό κειμένου που δημιουργείται από τεχνητή νοημοσύνη, συμπεριλαμβανομένης μιας τεχνικής υδατογραφήματος που μπορεί να ενσωματωθεί στα μελλοντικά προϊόντα της.
Το μητρώο ζήτησε από το OpenAI περαιτέρω σχόλια, κατά προτίμηση που δεν δημιουργούνται από AI. ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- Platoblockchain. Web3 Metaverse Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- Σχετικα
- πρόσβαση
- προστιθέμενη
- Μετά το
- AI
- Όλα
- Εν μέσω
- και
- προσεγγίσεις
- εμπορεύματα
- Αυτοματοποιημένη
- αυτομάτως
- Αξιού
- βασίζονται
- μεταξύ
- bots
- χτισμένο
- Καμπάνιες
- προσεκτικά
- χαρακτήρες
- chatbot
- ChatGPT
- σχόλιο
- εταίρα
- υπολογιστή
- βέβαιος
- περιεχόμενο
- Συνομιλία
- θα μπορούσε να
- ημερομηνία
- έκανε το ντεμπούτο του
- δεκαετία
- Αποφασίζοντας
- σχεδιασμένα
- Ανίχνευση
- διαφορετικές
- παραπληροφόρηση
- έγγραφο
- αποτέλεσμα
- Αγγλικά
- αρκετά
- Αιθέρας (ΕΤΗ)
- αξιολόγηση
- Even
- απόδειξη
- αναμένεται
- Εξερευνώντας
- εξαιρετικά
- φόβος
- τους φόβους
- Προώθηση
- Γαλλία
- Δωρεάν
- από
- Καύσιμα
- περαιτέρω
- μελλοντικός
- παράγεται
- δημιουργεί
- πηγαίνει
- κεφάλι
- βοήθεια
- βοήθησε
- HTTPS
- ανθρώπινος
- in
- Συμπεριλαμβανομένου
- Ινδία
- εσωτερικός
- Internet
- IT
- Ιανουάριος
- Είδος
- γνωστός
- εργαστήριο
- Γλώσσα
- Γλώσσες
- ΜΑΘΑΊΝΩ
- Πιθανός
- κοιτάζοντας
- πολοί
- Κακή πληροφορία
- μοντέλο
- μοντέλα
- μήνες
- δίκτυα
- Νευρικός
- νευρωνικά δίκτυα
- προσφορές
- διαδικτυακά (online)
- OpenAI
- επιχειρήσεις
- οργανώσεις
- ΑΛΛΑ
- εκτός
- δική
- τέλειος
- Phishing
- κομμάτι
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- τροφοδοτείται
- προβλέψει
- πρόβλεψη
- Προβλέψεις
- αρχή
- παράγει
- Παράγεται
- Προϊόντα
- ερώτηση
- Τιμές
- κυκλοφόρησε
- εκπρόσωπος
- Απαιτεί
- Αποτελέσματα
- Αύξηση
- Κλίμακα
- επιστήμονες
- ευαίσθητος
- σειρά
- διάφοροι
- θα πρέπει να
- αφού
- So
- λογισμικό
- μερικοί
- Πηγές
- ξεκίνησε
- εκκίνηση
- Φοιτητής
- Φοιτητές
- υποβάλλονται
- τέτοιος
- στόχους
- δασκάλους
- Η
- τους
- επομένως
- προς την
- τόνους
- εργαλείο
- εργαλεία
- εκπαιδευμένο
- Εκπαίδευση
- Τρίτη
- Πανεπιστήμια
- αποκαλυπτήρια
- us
- χρήση
- ποικιλία
- διάφορα
- αν
- Ποιό
- Ο ΟΠΟΊΟΣ
- θα
- Εργασία
- γραπτή
- Λανθασμένος
- zephyrnet