OpenAI își închide în liniște instrumentul de detectare AI - Decriptare

OpenAI își închide în liniște instrumentul de detectare AI – Decriptare

Marca temporală: 24 iulie 2023, ora 3:08
Nodul sursă: 2783631

În ianuarie, puterea de inteligență artificială OpenAI a anunțat un instrument care ar putea salva lumea – sau cel puțin să păstreze sănătatea mentală a profesorilor și a profesorilor – prin detectarea dacă o bucată de conținut a fost creată folosind instrumente AI generative, cum ar fi propriul său ChatGPT.

O jumătate de an mai târziu, acea unealtă este moartă, ucisă pentru că nu a putut face ceea ce a fost conceput pentru a face.

Creatorul ChatGPT OpenAI și-a deconectat în liniște instrumentul său de detectare AI, AI Classifier, săptămâna trecută din cauza „ratei sale scăzute de precizie”, a spus firma. Explicația nu a fost într-un nou anunț, ci adăugată într-o notă adăugată la blog that first announced the tool. The link to OpenAI’s classifier is no longer available.

„Lucrăm să încorporăm feedback și căutăm în prezent tehnici de proveniență mai eficiente pentru text și ne-am angajat să dezvoltăm și să implementăm mecanisme care să permită utilizatorilor să înțeleagă dacă conținutul audio sau vizual este generat de AI”, a scris OpenAI.

Noi instrumente care permit utilizarea unei IA din ce în ce mai sofisticate sunt online aproape zilnic și au creat o industrie de cabană a detectoarelor AI.

OpenAI a anunțat lansarea AI Classifier, susținând că poate face distincția între textul scris de un om și un AI. Chiar și atunci, totuși, OpenAI a numit clasificatorul „nu pe deplin de încredere”, adăugând că evaluările pe un „set de provocări” de texte în limba engleză au identificat corect 26% din textul scris prin IA ca fiind „probabil scris prin IA”, în timp ce etichetau incorect textul scris de om ca fiind scris prin IA în 9% din timp.

OpenAI a spus că limitările Clasificatorului AI includ faptul că nu este de încredere pe text cu mai puțin de 1,000 de caractere, etichetarea incorect a textului scris de oameni așa cum este scris de AI și clasificatorii bazați pe rețelele neuronale care au performanțe slabe în afara datelor lor de antrenament.

Un sector care este extrem de interesat să detecteze cu acuratețe AI este educația. De la lansarea ChatGPT în noiembrie, educatorii au tras un semnal de alarmă pentru studenții care folosesc chatbot-ul pentru a scrie eseuri.

„Recunoaștem că identificarea textului scris prin inteligență artificială a fost un punct important de discuție în rândul educatorilor și, la fel de important, este recunoașterea limitelor și impactului clasificatoarelor de text generate de inteligența artificială în sala de clasă”, a spus OpenAI, adăugând că compania va continua să extindă activitatea pe măsură ce învață.

OpenAI nu a răspuns încă lui Decriptare cerere de comentarii.

Fiți la curent cu știrile cripto, primiți actualizări zilnice în căsuța dvs. de e-mail.

Timestamp-ul:

Mai mult de la decriptaţi