En instruktör har anklagat elever som går på hans klass i jordbruksvetenskap vid University of Texas A&M-Commerce för att fuska genom att använda AI-programvara för att skriva sina uppsatser.
Så detaljerat i en nu-viral Reddit thread this week, Jared Mumm, a coordinator at the American university's department of agricultural sciences and natural resources, informed students he used ChatGPT to assess whether their submitted assignments were human-written or produced by computer.
We're told OpenAI's bot labeled at least some of the submitted work as machine crafted, leading to grades being withheld pending an investigation. Students caught up in the row hit back, saying their essays were indeed written by them. As a result of the probe, diplomas were temporarily withheld for those graduating. It's förstått ungefär hälften av klassen fick sina diplomer på is.
Specifically, Mumm said he ran his seniors' final three essays through ChatGPT twice, and if the bot said both times for each piece that it wrote the work, he would flunk that paper.
"I will be giving everyone in this course an X," he reportedly told his class, and apparently told several students: "I'm not grading AI s***."
University of Texas A&M-Commerce bekräftade att X-betyget betyder ofullständigt och var en tillfällig åtgärd medan affären utreddes. Flera elever har nu blivit fria från allt fusk, noterar vi, medan några andra valde att lämna in färska uppsatser för att betygsättas. Minst en elev har hittills erkänt att han använt ChatGPT för att slutföra uppgifter.
"A&M-Commerce confirms that no students failed the class or were barred from graduating because of this issue," the institution sade in a statement. "University officials are investigating the incident and developing policies to address the use or misuse of AI technology in the classroom."
"They are also working to adopt AI detection tools and other resources to manage the intersection of AI technology and higher education. The use of AI in coursework is a rapidly changing issue that confronts all learning institutions. ChatGPT," it continued.
En representant från universitetet avböjde att kommentera ytterligare. Registret har bett Mumm om en kommentar.
One person familiar with the brouhaha at the uni told us: "So far it seems the situation is mostly resolved: the school admitted to students that the grades should not have been withheld in the first place. It was completely out of protocol and an inappropriate use of ChatGPT. They haven’t addressed the foul language in accusations yet."
The kerfuffle highlights whether or not educators should use software to detect AI-produced content within submitted coursework. ChatGPT is not the greatest tool to use to classify machine-generated text; it cannot even accurately determine whether someone used it to write an essay. Basically, it shouldn't be used this way, to detect text output by ChatGPT or some other model.
Andra typer av programvara som är speciellt byggd för att upptäcka text som genereras av AI-modeller är ofta inte heller tillförlitliga, vilket blir alltmer uppenbart.
En förpubliceringsstudie föreslog det kommer att vara omöjligt att urskilja AI-skriven text när modellerna förbättras. Vinu Sankar Sadasivan, doktorand vid University of Maryland, och den första författaren till det pappret, berättade för oss att chanserna att upptäcka AI-genererad text med de bästa detektorerna inte är bättre än att vända ett mynt.
"Generative AI text models are trained using human text data with the objective of making their output resemble that of humans," Sadasivan said.
"Some of these AI models even memorize human text and output them in some instances without citing the actual text source. As these large language models improve over time to mimic humans, the best possible detector would achieve only an accuracy of nearly 50 percent.
"This is because the probability distribution of text output from human and AI models can nearly be the same for a sufficiently advanced [large language model], making detection hard. Hence, we theoretically show that the task of reliable text detection is impossible in practice."
The paper also showed that such software can be easily tricked into classifying AI text as human, if users make a few quick edits to paraphrase the outputs of a large language model. Sadasivan says universities and schools should not be using these detectors to check for plagiarism since they're unreliable.
"We should not use these detectors to make the final verdict. Borrowing words from my advisor, Prof Soheil Feizi: 'I think we need to learn to live with the fact that we may never be able to reliably say if a text is written by a human or an AI'," he said. ®
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoAiStream. Web3 Data Intelligence. Kunskap förstärkt. Tillgång här.
- Minting the Future med Adryenn Ashley. Tillgång här.
- Köp och sälj aktier i PRE-IPO-företag med PREIPO®. Tillgång här.
- Källa: https://go.theregister.com/feed/www.theregister.com/2023/05/17/university_chatgpt_grades/
- : har
- :är
- :inte
- $UPP
- 50
- a
- Able
- Om oss
- noggrannhet
- exakt
- Anklagelser
- den anklagade
- Uppnå
- faktiska
- adress
- medgav
- anta
- avancerat
- rådgivare
- Jordbruks
- jordbruket
- AI
- Alla
- också
- amerikan
- an
- och
- vilken som helst
- skenbar
- ÄR
- AS
- At
- Författaren
- tillbaka
- I grund och botten
- BE
- därför att
- passande
- varit
- Där vi får lov att vara utan att konstant prestera,
- BÄST
- Bättre
- upplåning
- Bot
- båda
- byggt
- by
- KAN
- kan inte
- fångas
- chanser
- byte
- ChatGPT
- fusk
- ta
- klass
- klassificera
- CO
- Coin
- kommentar
- fullborda
- fullständigt
- dator
- BEKRÄFTAT
- innehåll
- fortsatte
- Samordnare
- Naturligtvis
- datum
- Avdelning
- detaljerad
- Detektering
- Bestämma
- utveckla
- fördelning
- varje
- lätt
- Utbildning
- lärare
- antingen
- UPPSATS
- Eter (ETH)
- Även
- alla
- Faktum
- Misslyckades
- bekant
- långt
- få
- slutlig
- Förnamn
- För
- färsk
- från
- ytterligare
- genereras
- generativ
- Generativ AI
- Ge
- grad
- störst
- hade
- Hälften
- Hård
- Har
- he
- därav
- högre
- Högre utbildning
- höjdpunkter
- hans
- Träffa
- hålla
- innehar
- HTTPS
- humant
- Människa
- i
- if
- omöjligt
- förbättra
- in
- incident
- alltmer
- informeras
- Institution
- institutioner
- skärning
- in
- Undersökningen
- fråga
- IT
- jpg
- språk
- Large
- ledande
- LÄRA SIG
- inlärning
- t minst
- lever
- Maskinen
- göra
- Framställning
- hantera
- Maryland
- Maj..
- betyder
- mäta
- modell
- modeller
- för det mesta
- my
- Natural
- nästan
- Behöver
- aldrig
- Nej
- nu
- mål
- of
- tjänstemän
- Ofta
- on
- ONE
- endast
- OpenAI
- or
- Övriga
- Övrigt
- ut
- produktion
- över
- Papper
- väntan
- procent
- personen
- bit
- Plats
- plato
- Platon Data Intelligence
- PlatonData
- Strategier
- möjlig
- praktiken
- Sannolikheten
- sond
- producerad
- protokoll
- sätta
- Snabbt
- snabbt
- RE
- pålitlig
- representativ
- löst
- Resurser
- resultera
- RAD
- s
- Nämnda
- Samma
- säga
- säger
- säger
- Skola
- Skolor
- Vetenskap
- VETENSKAPER
- verkar
- Seniorer
- flera
- skall
- show
- visade
- eftersom
- Situationen
- So
- än så länge
- Mjukvara
- några
- någon
- Källa
- specifikt
- .
- student
- Studenter
- Läsa på
- skicka
- lämnats
- sådana
- tar
- uppgift
- Teknologi
- temporär
- texas
- än
- den där
- Smakämnen
- deras
- Dem
- Dessa
- de
- tror
- detta
- denna vecka
- de
- tre
- Genom
- tid
- gånger
- till
- verktyg
- verktyg
- tränad
- Dubbelt
- typer
- UNI
- Universitet
- universitet
- University of Maryland
- us
- användning
- Begagnade
- användare
- med hjälp av
- Slutsats
- VIN
- var
- Sätt..
- we
- vecka
- były
- om
- medan
- kommer
- med
- inom
- utan
- ord
- Arbete
- arbetssätt
- skulle
- skriva
- skriven
- X
- ännu
- zephyrnet