Un instructeur a accusé des étudiants qui suivaient son cours de sciences agricoles à l'Université du Texas A&M-Commerce d'avoir triché en utilisant un logiciel d'IA pour rédiger leurs essais.
Comme détaillé dans un désormais viral Cette semaine, sur le fil Reddit, Jared Mumm, coordinateur du département des sciences agricoles et des ressources naturelles de l'université américaine, a informé les étudiants qu'il utilisait ChatGPT pour évaluer si les devoirs qu'ils soumettaient étaient écrits par des humains ou produits par ordinateur.
On nous a dit que le robot d'OpenAI a étiqueté au moins certains des travaux soumis comme étant fabriqués par des machines, ce qui a conduit à la suspension des notes dans l'attente d'une enquête. Les étudiants pris dans la dispute ont riposté en affirmant que leurs dissertations avaient bien été rédigées par eux. À la suite de l’enquête, les diplômes ont été temporairement refusés aux diplômés. C'est compris environ la moitié de la classe a vu ses diplômes suspendus.
Plus précisément, Mumm a déclaré qu'il avait rédigé deux fois les trois derniers essais de ses aînés via ChatGPT, et que si le robot disait à chaque fois pour chaque article qu'il avait écrit l'ouvrage, il échouerait cet article.
"Je vais donner un X à tout le monde dans ce cours", aurait-il déclaré à sa classe, et aurait apparemment dit à plusieurs étudiants : "Je ne note pas des conneries d'IA."
L'Université du Texas A&M-Commerce a confirmé que la note X signifie incomplète et qu'il s'agissait d'une mesure temporaire pendant l'enquête sur l'affaire. Plusieurs étudiants ont maintenant été débarrassés de toute tricherie, notons-nous, tandis que d'autres ont choisi de soumettre de nouveaux essais pour être notés. Jusqu'à présent, au moins un élève a admis avoir utilisé ChatGPT pour terminer ses devoirs.
"A&M-Commerce confirme qu'aucun étudiant n'a échoué au cours ou n'a été empêché d'obtenir son diplôme à cause de ce problème", a déclaré l'institution. a affirmé Valérie Plante. dans un rapport. "Les responsables de l'université enquêtent sur l'incident et élaborent des politiques pour lutter contre l'utilisation ou la mauvaise utilisation de la technologie de l'IA en classe."
"Ils s'efforcent également d'adopter des outils de détection de l'IA et d'autres ressources pour gérer l'intersection de la technologie de l'IA et de l'enseignement supérieur. L'utilisation de l'IA dans les cours est un problème en évolution rapide auquel sont confrontés tous les établissements d'enseignement. ChatGPT", poursuit-il.
Un représentant de l'université a refusé de commenter davantage. Le registre a demandé un commentaire à Mumm.
Une personne proche du brouhaha à l'université nous a dit : « Jusqu'à présent, il semble que la situation soit en grande partie résolue : l'école a admis aux étudiants que les notes n'auraient pas dû être refusées en premier lieu. C'était complètement contraire au protocole et inapproprié. utilisation de ChatGPT. Ils n’ont pas encore abordé le langage grossier dans les accusations.
Le brouhaha souligne si les éducateurs doivent ou non utiliser un logiciel pour détecter le contenu produit par l'IA dans les cours soumis. ChatGPT n'est pas le meilleur outil à utiliser pour classer le texte généré automatiquement ; il ne peut même pas déterminer avec précision si quelqu’un l’a utilisé pour rédiger un essai. Fondamentalement, il ne devrait pas être utilisé de cette façon, pour détecter le texte généré par ChatGPT ou un autre modèle.
D'autres types de logiciels spécialement conçus pour détecter le texte généré par les modèles d'IA ne sont souvent pas non plus fiables, comme cela devient de plus en plus évident.
Une étude de pré-publication suggéré il sera impossible de discerner le texte écrit par l'IA à mesure que les modèles s'amélioreront. Vinu Sankar Sadasivan, doctorant à l'Université du Maryland et premier auteur de ce papier, nous a dit que les chances de détecter du texte généré par l'IA à l'aide des meilleurs détecteurs ne sont pas meilleures que de lancer une pièce.
"Les modèles de texte génératifs d'IA sont formés à l'aide de données textuelles humaines dans le but de rendre leur résultat semblable à celui des humains", a déclaré Sadasivan.
"Certains de ces modèles d'IA mémorisent même du texte humain et le génèrent dans certains cas sans citer la source réelle du texte. À mesure que ces grands modèles de langage s'améliorent au fil du temps pour imiter les humains, le meilleur détecteur possible n'atteindrait qu'une précision de près de 50 pour cent.
"Cela est dû au fait que la distribution de probabilité du texte généré par les modèles humains et IA peut être presque la même pour un [grand modèle de langage] suffisamment avancé, ce qui rend la détection difficile. Par conséquent, nous montrons théoriquement que la tâche de détection de texte fiable est impossible en pratique. ".
L'article a également montré qu'un tel logiciel peut être facilement amené à classer le texte de l'IA comme humain, si les utilisateurs effectuent quelques modifications rapides pour paraphraser les résultats d'un grand modèle de langage. Sadasivan affirme que les universités et les écoles ne devraient pas utiliser ces détecteurs pour vérifier le plagiat, car ils ne sont pas fiables.
"Nous ne devrions pas utiliser ces détecteurs pour rendre le verdict final. Pour emprunter les mots de mon conseiller, le professeur Soheil Feizi : 'Je pense que nous devons apprendre à vivre avec le fait que nous ne pourrons peut-être jamais dire de manière fiable si un texte est écrit par un humain ou une IA", a-t-il déclaré. ®
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoAiStream. Intelligence des données Web3. Connaissance Amplifiée. Accéder ici.
- Frapper l'avenir avec Adryenn Ashley. Accéder ici.
- Achetez et vendez des actions de sociétés PRE-IPO avec PREIPO®. Accéder ici.
- La source: https://go.theregister.com/feed/www.theregister.com/2023/05/17/university_chatgpt_grades/
- :possède
- :est
- :ne pas
- $UP
- 50
- a
- Capable
- Qui sommes-nous ?
- précision
- avec précision
- Accusations
- accusé
- atteindre
- présenter
- propos
- admis
- adopter
- Avancée
- conseiller
- Agriculture
- l'agriculture
- AI
- Tous
- aussi
- Américaine
- an
- ainsi que
- tous
- apparent
- SONT
- AS
- At
- auteur
- RETOUR
- En gros
- BE
- car
- devenir
- était
- va
- LES MEILLEURS
- Améliorée
- Emprunt
- Bot
- tous les deux
- construit
- by
- CAN
- ne peut pas
- pris
- chances
- en changeant
- ChatGPT
- tricherie
- vérifier
- classe
- Classer
- CO
- Coin
- commentaire
- complet
- complètement
- ordinateur
- CONFIRMÉ
- contenu
- a continué
- Coordinatrice
- cours
- données
- Département
- détaillé
- Détection
- Déterminer
- développement
- distribution
- chacun
- même
- Éducation
- éducateurs
- non plus
- RÉDACTION
- Ether (ETH)
- Pourtant, la
- tout le monde
- fait
- Échoué
- familier
- loin
- few
- finale
- Prénom
- Pour
- à la main
- de
- plus
- généré
- génératif
- IA générative
- Don
- grade
- plus
- ait eu
- Half
- Dur
- Vous avez
- he
- d'où
- augmentation
- L'enseignement supérieur
- Faits saillants
- sa
- Frappé
- appuyez en continu
- détient
- HTTPS
- humain
- Les êtres humains
- i
- if
- impossible
- améliorer
- in
- incident
- de plus en plus
- Actualités
- Institution
- les établissements privés
- intersection
- développement
- enquête
- aide
- IT
- jpg
- langue
- gros
- conduisant
- APPRENTISSAGE
- apprentissage
- au
- le travail
- click
- faire
- Fabrication
- gérer
- Maryland
- Mai..
- veux dire
- mesurer
- modèle
- numériques jumeaux (digital twin models)
- la plupart
- my
- Nature
- presque
- Besoin
- n'allons jamais
- aucune
- maintenant
- objectif
- of
- fonctionnaires
- souvent
- on
- ONE
- uniquement
- OpenAI
- or
- Autre
- Autres
- ande
- sortie
- plus de
- Papier
- En attente
- pour cent
- personne
- pièce
- Place
- Platon
- Intelligence des données Platon
- PlatonDonnées
- politiques
- possible
- pratique
- probabilité
- sonde
- Produit
- protocole
- mettre
- Rapide
- rapidement
- RE
- fiable
- représentant
- résolu
- Ressources
- résultat
- RANGÉE
- s
- Saïd
- même
- dire
- dire
- dit
- L'école
- Écoles
- Sciences
- STARFLEET SCIENCES
- semble
- personnes âgées
- plusieurs
- devrait
- montrer
- montré
- depuis
- situation
- So
- jusqu'à présent
- Logiciels
- quelques
- Quelqu'un
- Identifier
- spécifiquement
- Déclaration
- Étudiant
- Étudiante
- Étude
- soumettre
- soumis
- tel
- prise
- Tâche
- Technologie
- temporaire
- Texas
- que
- qui
- La
- leur
- Les
- Ces
- l'ont
- penser
- this
- cette semaine
- ceux
- trois
- Avec
- fiable
- fois
- à
- outil
- les outils
- qualifié
- Twice
- types
- UNI
- Universités
- université
- Université du Maryland
- us
- utilisé
- d'utiliser
- utilisateurs
- en utilisant
- Verdict
- NIV
- était
- Façon..
- we
- semaine
- ont été
- que
- tout en
- sera
- avec
- dans les
- sans
- des mots
- Activités principales
- de travail
- pourra
- écrire
- code écrit
- X
- encore
- zéphyrnet