En instruktør har anklaget studerende, der tager hans klasse i landbrugsvidenskab på University of Texas A&M-Commerce, for at snyde ved at bruge AI-software til at skrive deres essays.
Som beskrevet i en nu viral Reddit-tråden i denne uge informerede Jared Mumm, en koordinator ved det amerikanske universitets afdeling for landbrugsvidenskab og naturressourcer, eleverne om, at han brugte ChatGPT til at vurdere, om deres afleverede opgaver var menneskeskrevne eller produceret af computer.
Vi får at vide, at OpenAI's bot mærkede i det mindste noget af det indsendte arbejde som maskinfremstillet, hvilket førte til, at karakterer tilbageholdes, mens der afventes en undersøgelse. Studerende, der blev indhentet i rækken, slog tilbage og sagde, at deres essays faktisk var skrevet af dem. Som et resultat af undersøgelsen blev eksamensbeviser midlertidigt tilbageholdt for dem, der dimitterede. Det er forstået omkring halvdelen af klassen fik deres eksamensbeviser sat i bero.
Specifikt sagde Mumm, at han kørte sine seniorers sidste tre essays gennem ChatGPT to gange, og hvis botten sagde begge gange for hvert stykke, at den skrev værket, ville han kassere det papir.
"Jeg vil give alle i dette kursus et X," sagde han angiveligt til sin klasse, og sagde tilsyneladende til flere elever: "Jeg giver ikke karakter til AI s***."
University of Texas A&M-Commerce bekræftede, at X-graden betyder ufuldstændig og var en midlertidig foranstaltning, mens affæren blev undersøgt. Flere studerende er nu blevet renset for snyd, bemærker vi, mens nogle andre valgte at indsende nye essays for at blive bedømt. Mindst én elev har indtil videre indrømmet at bruge ChatGPT til at udføre opgaver.
"A&M-Commerce bekræfter, at ingen studerende svigtede klassen eller var udelukket fra at tage eksamen på grund af dette problem," institutionen sagde i en udtalelse. "Universitetets embedsmænd efterforsker hændelsen og udvikler politikker til at håndtere brugen eller misbruget af AI-teknologi i klasseværelset."
"De arbejder også på at adoptere AI-detektionsværktøjer og andre ressourcer til at styre skæringspunktet mellem AI-teknologi og videregående uddannelse. Brugen af AI i kurser er et hurtigt skiftende problem, der konfronterer alle lærende institutioner. ChatGPT," fortsatte det.
En repræsentant fra universitetet afviste at kommentere yderligere. Registret har bedt Mumm om en kommentar.
En person, der er bekendt med brouhaha på uni fortalte os: "Indtil videre ser det ud til, at situationen for det meste er løst: skolen indrømmede over for eleverne, at karaktererne ikke skulle have været tilbageholdt i første omgang. Det var fuldstændig uden for protokol og en upassende brug af ChatGPT. De har ikke behandlet det grimme sprog i anklagerne endnu."
Indsatsen fremhæver, hvorvidt undervisere skal bruge software til at opdage AI-produceret indhold i indsendte kurser. ChatGPT er ikke det bedste værktøj at bruge til at klassificere maskingenereret tekst; det kan ikke engang præcist afgøre, om nogen brugte det til at skrive et essay. Dybest set bør det ikke bruges på denne måde til at detektere tekstoutput af ChatGPT eller en anden model.
Andre typer software, der er specielt bygget til at detektere tekst genereret af AI-modeller, er ofte heller ikke pålidelige, som det bliver mere og mere tydeligt.
En undersøgelse før udgivelse foreslog det vil være umuligt at gennemskue AI-skrevet tekst, efterhånden som modeller forbedres. Vinu Sankar Sadasivan, en ph.d.-studerende ved University of Maryland, og den første forfatter af det papir, fortalte os, at chancerne for at opdage AI-genereret tekst ved hjælp af de bedste detektorer ikke er bedre end at vende en mønt.
"Generative AI-tekstmodeller trænes ved hjælp af menneskelige tekstdata med det formål at få deres output til at ligne menneskers," sagde Sadasivan.
"Nogle af disse AI-modeller husker endda menneskelig tekst og udsender dem i nogle tilfælde uden at citere den faktiske tekstkilde. Da disse store sprogmodeller forbedres over tid for at efterligne mennesker, ville den bedst mulige detektor kun opnå en nøjagtighed på næsten 50 procent.
"Dette skyldes, at sandsynlighedsfordelingen af tekstoutput fra menneskelige og AI-modeller næsten kan være den samme for en tilstrækkeligt avanceret [stor sprogmodel], hvilket gør detektion svært. Derfor viser vi teoretisk, at opgaven med pålidelig tekstgenkendelse er umulig i praksis ."
Papiret viste også, at sådan software nemt kan snydes til at klassificere AI-tekst som menneskelig, hvis brugerne laver et par hurtige redigeringer for at omskrive output fra en stor sprogmodel. Sadasivan siger, at universiteter og skoler ikke bør bruge disse detektorer til at kontrollere for plagiat, da de er upålidelige.
"Vi bør ikke bruge disse detektorer til at træffe den endelige dom. Lånende ord fra min rådgiver, prof Soheil Feizi: "Jeg tror, vi skal lære at leve med, at vi måske aldrig vil være i stand til pålideligt at sige, om en tekst er skrevet af et menneske eller en AI'," sagde han. ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoAiStream. Web3 Data Intelligence. Viden forstærket. Adgang her.
- Udmøntning af fremtiden med Adryenn Ashley. Adgang her.
- Køb og sælg aktier i PRE-IPO-virksomheder med PREIPO®. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2023/05/17/university_chatgpt_grades/
- :har
- :er
- :ikke
- $OP
- 50
- a
- I stand
- Om
- nøjagtighed
- præcist
- Beskyldninger
- anklagede
- opnå
- faktiske
- adresse
- indrømmede
- vedtage
- fremskreden
- rådgiver
- Landbrugs
- Landbrug
- AI
- Alle
- også
- amerikansk
- an
- ,
- enhver
- tilsyneladende
- ER
- AS
- At
- forfatter
- tilbage
- I bund og grund
- BE
- fordi
- blive
- været
- være
- BEDSTE
- Bedre
- låntagning
- Bot
- både
- bygget
- by
- CAN
- kan ikke
- fanget
- odds
- skiftende
- ChatGPT
- snyd
- kontrollere
- klasse
- Klassificere
- CO
- Coin
- KOMMENTAR
- fuldføre
- fuldstændig
- computer
- BEKRÆFTET
- indhold
- fortsatte
- Koordinator
- kursus
- data
- Afdeling
- detaljeret
- Detektion
- Bestem
- udvikling
- fordeling
- hver
- nemt
- Uddannelse
- pædagoger
- enten
- HISTORIE
- Ether (ETH)
- Endog
- alle
- Faktisk
- mislykkedes
- bekendt
- langt
- få
- endelige
- Fornavn
- Til
- frisk
- fra
- yderligere
- genereret
- generative
- Generativ AI
- Give
- klasse
- størst
- havde
- Halvdelen
- Hård Ost
- Have
- he
- dermed
- højere
- Videregående uddannelse
- højdepunkter
- hans
- Hit
- hold
- besidder
- HTTPS
- menneskelig
- Mennesker
- i
- if
- umuligt
- Forbedre
- in
- hændelse
- stigende
- informeret
- Institution
- institutioner
- vejkryds
- ind
- undersøgelse
- spørgsmål
- IT
- jpg
- Sprog
- stor
- førende
- LÆR
- læring
- mindst
- leve
- maskine
- lave
- Making
- administrere
- Maryland
- Kan..
- midler
- måle
- model
- modeller
- for det meste
- my
- Natural
- næsten
- Behov
- aldrig
- ingen
- nu
- objektiv
- of
- embedsmænd
- tit
- on
- ONE
- kun
- OpenAI
- or
- Andet
- Andre
- ud
- output
- i løbet af
- Papir
- verserende
- procent
- person,
- stykke
- Place
- plato
- Platon Data Intelligence
- PlatoData
- politikker
- mulig
- praksis
- sandsynlighed
- sonde
- produceret
- protokol
- sætte
- Hurtig
- hurtigt
- RE
- pålidelig
- repræsentativt
- løst
- Ressourcer
- resultere
- RÆKKE
- s
- Said
- samme
- siger
- siger
- siger
- Skole
- Skoler
- Videnskab
- VIDENSKABER
- synes
- Seniorer
- flere
- bør
- Vis
- viste
- siden
- Situationen
- So
- indtil nu
- Software
- nogle
- Nogen
- Kilde
- specifikt
- Statement
- studerende
- Studerende
- Studere
- indsende
- indsendt
- sådan
- tager
- Opgaver
- Teknologier
- midlertidig
- Texas
- end
- at
- deres
- Them
- Disse
- de
- tror
- denne
- denne uge
- dem
- tre
- Gennem
- tid
- gange
- til
- værktøj
- værktøjer
- uddannet
- To gange
- typer
- UNI
- Universiteter
- universitet
- University of Maryland
- us
- brug
- anvendte
- brugere
- ved brug af
- Bedømmelse
- VIN
- var
- Vej..
- we
- uge
- var
- hvorvidt
- mens
- vilje
- med
- inden for
- uden
- ord
- Arbejde
- arbejder
- ville
- skriver
- skriftlig
- X
- endnu
- zephyrnet