Um instrutor acusou os alunos de sua aula de ciências agrícolas na Universidade do Texas A&M-Commerce de trapacear usando software de IA para escrever seus ensaios.
Conforme detalhado em um agora viral No tópico do Reddit esta semana, Jared Mumm, coordenador do departamento de ciências agrícolas e recursos naturais da universidade americana, informou aos alunos que usou o ChatGPT para avaliar se as tarefas enviadas foram escritas por humanos ou produzidas por computador.
Fomos informados de que o bot da OpenAI rotulou pelo menos alguns dos trabalhos enviados como elaborados por máquina, fazendo com que as notas fossem retidas enquanto se aguarda uma investigação. Os alunos que estavam na fila responderam, dizendo que suas redações foram de fato escritas por eles. Como resultado da investigação, os diplomas foram temporariamente retidos para os formandos. Isso é Entendido cerca de metade da classe teve seus diplomas suspensos.
Especificamente, Mumm disse que executou as três últimas redações de seus alunos no ChatGPT duas vezes, e se o bot dissesse nas duas vezes para cada peça que escreveu o trabalho, ele seria reprovado no trabalho.
“Darei um X a todos neste curso”, ele teria dito à sua turma, e aparentemente disse a vários alunos: “Não estou avaliando a merda da IA”.
A Universidade do Texas A&M-Commerce confirmou que o grau X significa incompleto e foi uma medida temporária enquanto o caso era investigado. Vários alunos já foram inocentados de qualquer trapaça, observamos, enquanto outros optaram por enviar novas redações para serem avaliadas. Até agora, pelo menos um aluno admitiu usar o ChatGPT para concluir as tarefas.
“A&M-Commerce confirma que nenhum aluno foi reprovado ou foi impedido de se formar por causa desse problema”, disse a instituição. dito em um comunicado. “Funcionários da universidade estão investigando o incidente e desenvolvendo políticas para abordar o uso ou uso indevido da tecnologia de IA na sala de aula”.
“Eles também estão trabalhando para adotar ferramentas de detecção de IA e outros recursos para gerenciar a interseção da tecnologia de IA e do ensino superior. O uso de IA em cursos é uma questão em rápida mudança que enfrenta todas as instituições de ensino. ChatGPT”, continuou.
Um representante da universidade se recusou a comentar mais. O registro pediu comentários a Mumm.
Uma pessoa familiarizada com a confusão na universidade nos disse: “Até agora parece que a situação está praticamente resolvida: a escola admitiu aos alunos que as notas não deveriam ter sido retidas em primeiro lugar. uso do ChatGPT. Eles ainda não abordaram a linguagem chula nas acusações.
A confusão destaca se os educadores devem ou não usar software para detectar conteúdo produzido por IA nos cursos enviados. ChatGPT não é a melhor ferramenta para classificar texto gerado por máquina; não consegue nem mesmo determinar com precisão se alguém o usou para escrever um ensaio. Basicamente, não deve ser usado desta forma, para detectar saída de texto pelo ChatGPT ou algum outro modelo.
Outros tipos de software construídos especificamente para detectar texto gerado por modelos de IA geralmente também não são confiáveis, como está se tornando cada vez mais aparente.
Um estudo de pré-publicação sugerido será impossível discernir o texto escrito por IA à medida que os modelos melhoram. Vinu Sankar Sadasivan, estudante de doutorado na Universidade de Maryland e primeiro autor de aquele papel, nos disse que as chances de detectar texto gerado por IA usando os melhores detectores não são melhores do que jogar uma moeda.
“Os modelos de texto generativos de IA são treinados usando dados de texto humano com o objetivo de fazer com que sua produção se assemelhe à dos humanos”, disse Sadasivan.
“Alguns desses modelos de IA até memorizam texto humano e os produzem em alguns casos sem citar a fonte real do texto. À medida que esses grandes modelos de linguagem melhoram ao longo do tempo para imitar os humanos, o melhor detector possível alcançaria apenas uma precisão de quase 50 por cento.
"Isso ocorre porque a distribuição de probabilidade da saída de texto de modelos humanos e de IA pode ser quase a mesma para um [modelo de linguagem grande] suficientemente avançado, dificultando a detecção. Portanto, mostramos teoricamente que a tarefa de detecção confiável de texto é impossível na prática ."
O artigo também mostrou que esse software pode ser facilmente levado a classificar o texto de IA como humano, se os usuários fizerem algumas edições rápidas para parafrasear os resultados de um grande modelo de linguagem. Sadasivan diz que universidades e escolas não deveriam usar esses detectores para verificar plágio, uma vez que não são confiáveis.
"Não deveríamos usar esses detectores para dar o veredicto final. Tomando emprestadas as palavras do meu orientador, Prof. Soheil Feizi: 'Acho que precisamos aprender a conviver com o fato de que talvez nunca seremos capazes de dizer com segurança se um texto foi escrito por um humano ou uma IA'", disse ele. ®
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoAiStream. Inteligência de Dados Web3. Conhecimento Amplificado. Acesse aqui.
- Cunhando o Futuro com Adryenn Ashley. Acesse aqui.
- Compre e venda ações em empresas PRE-IPO com PREIPO®. Acesse aqui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2023/05/17/university_chatgpt_grades/
- :tem
- :é
- :não
- $UP
- 50
- a
- Capaz
- Sobre
- precisão
- exatamente
- Acusações
- acusado
- Alcançar
- real
- endereço
- admitiu
- adotar
- avançado
- assessor
- Agrícola
- agricultura
- AI
- Todos os Produtos
- tb
- americano
- an
- e
- qualquer
- aparente
- SOMOS
- AS
- At
- autor
- em caminho duplo
- Basicamente
- BE
- Porque
- tornando-se
- sido
- ser
- MELHOR
- Melhor
- Empréstimo
- Bot
- ambos
- construído
- by
- CAN
- não podes
- apanhados
- chances
- mudança
- ChatGPT
- batota
- verificar
- classe
- classificar
- CO
- Moeda
- comentar
- completar
- completamente
- computador
- CONFIRMADO
- conteúdo
- continuou
- Coordenador
- curso
- dados,
- Departamento
- detalhado
- Detecção
- Determinar
- em desenvolvimento
- distribuição
- cada
- facilmente
- Educação
- educadores
- ou
- REDAÇÃO
- Éter (ETH)
- Mesmo
- todos
- fato
- fracassado
- familiar
- longe
- poucos
- final
- Primeiro nome
- Escolha
- recentes
- da
- mais distante
- gerado
- generativo
- IA generativa
- Dando
- grau
- maior
- tinha
- Metade
- Queijos duros
- Ter
- he
- conseqüentemente
- superior
- Ensino superior
- destaques
- sua
- Acertar
- segurar
- detém
- HTTPS
- humano
- Humanos
- i
- if
- impossível
- melhorar
- in
- incidente
- cada vez mais
- informado
- Instituição
- instituições
- interseção
- para dentro
- investigação
- emitem
- IT
- jpg
- língua
- grande
- principal
- APRENDER
- aprendizagem
- mínimo
- viver
- máquina
- fazer
- Fazendo
- gerencia
- Maryland
- Posso..
- significa
- a medida
- modelo
- modelos
- na maioria das vezes
- my
- natural
- quase
- você merece...
- nunca
- não
- agora
- objetivo
- of
- funcionários
- frequentemente
- on
- ONE
- só
- OpenAI
- or
- Outros
- Outros
- Fora
- saída
- Acima de
- Papel
- pendente
- por cento
- pessoa
- peça
- Lugar
- platão
- Inteligência de Dados Platão
- PlatãoData
- políticas
- possível
- prática
- probabilidade
- sonda
- Produzido
- protocolo
- colocar
- Links
- rapidamente
- RE
- confiável
- representante
- resolvidas
- Recursos
- resultar
- LINHA
- s
- Dito
- mesmo
- dizer
- dizendo
- diz
- Escola
- Escolas
- Ciência
- CIÊNCIAS
- parece
- idosos
- vários
- rede de apoio social
- mostrar
- mostrou
- desde
- situação
- So
- até aqui
- Software
- alguns
- Alguém
- fonte
- especificamente
- Declaração
- estudante
- Estudantes
- Estudo
- enviar
- apresentado
- tal
- tomar
- Tarefa
- Equipar
- temporário
- texas
- do que
- que
- A
- deles
- Eles
- Este
- deles
- think
- isto
- esta semana
- aqueles
- três
- Através da
- tempo
- vezes
- para
- ferramenta
- ferramentas
- treinado
- Twice
- tipos
- UNI
- Universidades
- universidade
- University of Maryland
- us
- usar
- usava
- usuários
- utilização
- Veredito
- VINHO
- foi
- Caminho..
- we
- semana
- foram
- se
- enquanto
- precisarão
- com
- dentro
- sem
- palavras
- Atividades:
- trabalhar
- seria
- escrever
- escrito
- X
- ainda
- zefirnet