OpenAI ha lanzado una herramienta en línea gratuita diseñada para predecir si un pasaje de texto fue generado por IA o escrito por un humano.
Apodado el "clasificador de texto de IA", el software funciona con un modelo de lenguaje y califica la probabilidad de que un modelo de IA haya generado un fragmento de texto en una escala de cinco puntos que va de "muy poco probable" a "poco claro" y "probable". .” Lo probamos en algunos de nuestros artículos de hace más o menos una década, y es posible que varios buitres se molesten al saber que su copia fue calificada como "poco clara si es generada por IA".
La herramienta, presentada el martes, debutó meses después de la puesta en marcha. lanzado ChatGPT, un chatbot que genera texto automáticamente cuando se le indica, como responder una pregunta, contar un chiste o escribir un poema. En efecto, OpenAI ayudó a impulsar el aumento de los bots de transmisión de parloteo y ahora ofrece una herramienta mediocre para detectar este tipo de cosas.
Escuelas y universidades en los EE. UU., Francia e India, al menos, desde entonces prohibido los estudiantes accedan a ChatGPT usando sus redes o envíen ensayos generados por el software.
El clasificador a veces tiene mucha confianza en una predicción incorrecta.
Los expertos también temen que los modelos de generación de texto puedan usarse para emitir toneladas de información errónea, correos electrónicos de phishing, montones y montones de tonterías para inundar Internet. Varios para las fiestas. Por lo tanto, los científicos informáticos han comenzado a trabajar en sus propias herramientas de clasificación para detectar contenido generado por IA.
El clasificador de texto AI de OpenAI no es perfecto. “Nuestro uso previsto para AI Text Classifier es fomentar la conversación sobre la distinción entre el contenido escrito por humanos y el generado por IA”, dijo el laboratorio financiado por Microsoft. dijo.
“Los resultados pueden ayudar, pero no deben ser la única prueba, al decidir si un documento se generó con IA”, agregó la organización. “El modelo está entrenado en texto escrito por humanos de una variedad de fuentes, que pueden no ser representativos de todos los tipos de texto escrito por humanos”.
El clasificador de texto AI está diseñado para detectar texto hecho a máquina de varias fuentes, no solo su ChatGPT exagerado. Se entrenó tanto en texto escrito por IA de 34 modelos creados por cinco organizaciones, como en texto escrito por humanos extraído de Internet y tomado de un conjunto de datos interno de la empresa.
La herramienta requiere muestras de texto de 1,000 caracteres y no funciona bien para otros idiomas además del inglés. El jefe de alineación de OpenAI, Jan Leike les dijo a Axios sus predicciones pueden producir falsos positivos o falsos negativos.
El clasificador ni siquiera será tan útil para los profesores que buscan evaluar si un estudiante envió una tarea generada por un software como ChatGPT. AI Text Classifier no es lo suficientemente sensible como para decir qué oraciones o fragmentos pueden haber sido obra de AI, por lo que cualquier texto producido por una computadora y modificado por un humano puede evadir la detección.
“Advertimos que el modelo no se ha evaluado cuidadosamente en muchos de los objetivos principales esperados, incluidos ensayos de estudiantes, campañas de desinformación automatizada o transcripciones de chat. De hecho, se sabe que los clasificadores basados en redes neuronales están mal calibrados fuera de sus datos de entrenamiento. Para entradas que son muy diferentes del texto en nuestro conjunto de entrenamiento, el clasificador a veces tiene mucha confianza en una predicción incorrecta”, advirtió el laboratorio.
OpenAI también es según se informa explorando otros enfoques para detectar texto generado por IA, incluida una técnica de marca de agua que puede integrarse en sus productos futuros.
El registro ha pedido a OpenAI más comentarios, preferiblemente no generados por IA. ®
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- Platoblockchain. Inteligencia del Metaverso Web3. Conocimiento amplificado. Accede Aquí.
- Fuente: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- Nuestra Empresa
- el acceso
- adicional
- Después
- AI
- Todos
- En medio de
- y
- enfoques
- Confirmación de Viaje
- automáticamente
- Axios
- basado
- entre
- los robots
- construido
- Campañas
- estudiar cuidadosamente
- personajes
- chatterbot
- ChatGPT
- comentario
- compañía
- computadora
- seguros
- contenido
- Conversación
- podría
- datos
- debutado
- década
- Decidir
- diseñado
- Detección
- una experiencia diferente
- desinformación
- documento
- efecto
- correo
- Inglés
- suficientes
- Éter (ETH)
- evaluado
- Incluso
- evidencia sólida
- esperado
- Explorar
- extremadamente
- miedo
- temores
- Cuidados de acogida
- Francia
- Gratis
- Desde
- Combustible
- promover
- futuras
- generado
- genera
- Va
- cabeza
- ayuda
- ayudado
- HTTPS
- humana
- in
- Incluye
- India
- interno
- Internet
- IT
- Ene
- Tipo
- conocido
- el lab
- idioma
- Idiomas
- APRENDE:
- que otros
- mirando
- muchos
- Desinformación
- modelo
- modelos
- meses
- telecomunicaciones
- Neural
- redes neuronales
- Ofertas
- en línea
- OpenAI
- organización
- para las fiestas.
- Otro
- afuera
- EL DESARROLLADOR
- perfecto
- suplantación de identidad
- pieza
- Platón
- Inteligencia de datos de Platón
- PlatónDatos
- alimentado
- predecir
- predicción
- Predicciones
- principio
- producir
- producido
- Productos
- pregunta
- Tarifas
- liberado
- representante
- requiere
- Resultados
- Subir
- Escala
- los científicos
- sensible
- set
- Varios
- tienes
- desde
- So
- Software
- algo
- Fuentes
- fundó
- inicio
- Estudiante
- Estudiantes
- Subido
- tal
- tiene como objetivo
- profesores experimentados
- La
- su
- por lo tanto
- a
- TONS
- del IRS
- entrenado
- Formación
- Martes
- Universidades
- dio a conocer
- us
- utilizan el
- variedad
- diversos
- sean
- que
- QUIENES
- seguirá
- Actividades:
- escrito
- Mal
- zephyrnet