Преподаватель обвинил студентов, посещающих его занятия по сельскому хозяйству в Техасском университете A&M-Commerce, в мошенничестве с использованием программного обеспечения ИИ для написания своих эссе.
Как подробно описано в сейчас вирусный В теме Reddit на этой неделе Джаред Мамм, координатор факультета сельскохозяйственных наук и природных ресурсов американского университета, сообщил студентам, что он использует ChatGPT, чтобы оценить, были ли отправленные ими задания написаны человеком или созданы на компьютере.
Нам сообщили, что бот OpenAI пометил по крайней мере некоторые из представленных работ как машинные, в результате чего оценки были удержаны до завершения расследования. Студенты, оказавшиеся в центре скандала, нанесли ответный удар, заявив, что их эссе действительно были написаны ими. В результате проверки выпускникам временно отказали в выдаче дипломов. Его понимать примерно у половины класса дипломы были отложены.
В частности, Мумм сказал, что он дважды прогонял три последних эссе своих выпускников через ChatGPT, и если бы бот оба раза для каждого произведения сказал, что он написал работу, он бы завалил эту работу.
«Я поставлю всем в этом курсе пятерку», — как сообщается, сказал он своему классу и, по-видимому, сказал нескольким студентам: «Я не ставлю оценки за ИИ».
Техасский университет A&M-Commerce подтвердил, что оценка X означает незавершенность и была временной мерой на время расследования дела. Мы отмечаем, что несколько студентов были очищены от любого мошенничества, в то время как некоторые другие решили представить свежие эссе для оценки. По крайней мере, один ученик до сих пор признался, что использует ChatGPT для выполнения заданий.
«A&M-Commerce подтверждает, что ни один студент не провалил курс и не был лишен возможности закончить обучение из-за этой проблемы», — заявили в учреждении. — сказал в заявлении. «Руководители университета расследуют инцидент и разрабатывают политику по борьбе с использованием или неправомерным использованием технологий искусственного интеллекта в классе».
«Они также работают над внедрением инструментов обнаружения ИИ и других ресурсов для управления пересечением технологий ИИ и высшего образования. Использование ИИ в курсовой работе — это быстро меняющаяся проблема, с которой сталкиваются все учебные заведения. ChatGPT», — продолжил он.
Представитель вуза отказался от дальнейших комментариев. Регистр попросила Мумм прокомментировать.
Один человек, знакомый с шумихой в универе, рассказал нам: «Пока ситуация, похоже, в основном разрешилась: школа призналась студентам, что вообще не следовало задерживать оценки. Это было совершенно не по протоколу и неуместно. использование ChatGPT. Они еще не рассмотрели нецензурную лексику в обвинениях».
В этой суматохе подчеркивается, должны ли преподаватели использовать программное обеспечение для обнаружения контента, созданного ИИ, в отправленных курсовых работах. ChatGPT — не лучший инструмент для классификации машинного текста; он даже не может точно определить, использовал ли его кто-то для написания эссе. По сути, его не следует использовать таким образом для обнаружения вывода текста с помощью ChatGPT или какой-либо другой модели.
Другие типы программного обеспечения, специально созданного для обнаружения текста, созданного моделями ИИ, также часто ненадежны, что становится все более очевидным.
Исследование перед публикацией предложенный по мере совершенствования моделей будет невозможно различить текст, написанный ИИ. Вину Санкар Садасиван, аспирант Мэрилендского университета и первый автор эта бумага, сказал нам, что шансы обнаружить сгенерированный ИИ текст с использованием лучших детекторов не выше, чем подбрасывание монеты.
«Генераторные текстовые модели ИИ обучаются с использованием текстовых данных человека с целью сделать их выходные данные похожими на человеческие», — сказал Садасиван.
«Некоторые из этих моделей искусственного интеллекта даже запоминают человеческий текст и в некоторых случаях выводят его, не ссылаясь на реальный источник текста. Поскольку эти большие языковые модели со временем совершенствуются, чтобы имитировать людей, лучший из возможных детекторов достигнет точности лишь около 50 процентов.
«Это связано с тем, что распределение вероятностей вывода текста из моделей человека и искусственного интеллекта может быть почти одинаковым для достаточно продвинутой [большой языковой модели], что затрудняет обнаружение. Следовательно, мы теоретически показываем, что задача надежного обнаружения текста на практике невозможна. ."
В документе также показано, что такое программное обеспечение можно легко обмануть и классифицировать текст ИИ как человеческий, если пользователи внесут несколько быстрых изменений, чтобы перефразировать результаты большой языковой модели. Садасиван говорит, что университетам и школам не следует использовать эти детекторы для проверки на плагиат, поскольку они ненадежны.
«Мы не должны использовать эти детекторы для вынесения окончательного вердикта. Заимствуя слова моего консультанта, профессора Сохейла Фейзи: «Я думаю, нам нужно научиться жить с тем фактом, что мы никогда не сможем достоверно сказать, написан ли текст человек или искусственный интеллект», — сказал он. ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- ПлатонАйСтрим. Анализ данных Web3. Расширение знаний. Доступ здесь.
- Чеканка будущего с Эдриенн Эшли. Доступ здесь.
- Покупайте и продавайте акции компаний PREIPO® с помощью PREIPO®. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2023/05/17/university_chatgpt_grades/
- :имеет
- :является
- :нет
- $UP
- 50
- a
- в состоянии
- О нас
- точность
- точно
- Обвинения
- обвиняют
- Достигать
- фактического соединения
- адрес
- признал
- принять
- продвинутый
- советник
- сельскохозяйственное
- сельское хозяйство
- AI
- Все
- Также
- американские
- an
- и
- любой
- очевидный
- МЫ
- AS
- At
- автор
- назад
- в основном
- BE
- , так как:
- становление
- было
- не являетесь
- ЛУЧШЕЕ
- Лучшая
- Заимствование
- Бот
- изоферменты печени
- построенный
- by
- CAN
- не могу
- пойманный
- шансы
- изменения
- ChatGPT
- мошенничество
- проверка
- класс
- классифицировать
- CO
- Монета
- комментарий
- полный
- полностью
- компьютер
- ПОДТВЕРЖДЕНО
- содержание
- продолжающийся
- Координатор
- курс
- данным
- Кафедра
- подробный
- обнаружение
- Определять
- развивающийся
- распределение
- каждый
- легко
- Обучение
- педагогов
- или
- СОЧИНЕНИЕ
- Эфир (ETH)
- Даже
- все члены
- факт
- XNUMX ошибка
- знакомый
- далеко
- несколько
- окончательный
- First
- Что касается
- свежий
- от
- далее
- генерируется
- генеративный
- Генеративный ИИ
- Отдаете
- класс
- величайший
- было
- Половина
- Жесткий
- Есть
- he
- следовательно
- высший
- Высшее образование
- основной момент
- его
- Удар
- держать
- имеет
- HTTPS
- человек
- Людей
- i
- if
- что она
- улучшать
- in
- инцидент
- все больше и больше
- сообщил
- учреждение
- учреждения
- пересечение
- в
- ходе расследования,
- вопрос
- IT
- JPG
- язык
- большой
- ведущий
- УЧИТЬСЯ
- изучение
- наименее
- жить
- машина
- сделать
- Создание
- управлять
- Мэриленд
- Май..
- означает
- проводить измерение
- модель
- Модели
- в основном
- my
- натуральный
- почти
- Необходимость
- никогда
- нет
- сейчас
- цель
- of
- чиновников
- .
- on
- ONE
- только
- OpenAI
- or
- Другие контрактные услуги
- Другое
- внешний
- выходной
- за
- бумага & картон
- в ожидании
- процент
- человек
- кусок
- Часть
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- сборах
- возможное
- практика
- вероятность
- зонд
- Произведенный
- протокол
- положил
- САЙТ
- быстро
- RE
- Reddit.
- складская
- представитель
- решен
- Полезные ресурсы
- результат
- РЯД
- s
- Сказал
- то же
- сообщили
- поговорка
- говорит
- Школа
- Вузы
- Наука
- НАУКА
- кажется
- пожилых
- несколько
- должен
- показывать
- показал
- с
- ситуация
- So
- уже
- Software
- некоторые
- Кто-то
- Источник
- конкретно
- заявление
- "Студент"
- Студенты
- Кабинет
- отправить
- представленный
- такие
- с
- Сложность задачи
- Технологии
- временный
- Техас
- чем
- который
- Ассоциация
- их
- Их
- Эти
- они
- think
- этой
- На этой неделе
- те
- три
- Через
- время
- раз
- в
- инструментом
- инструменты
- специалистов
- Дважды
- Типы
- UNI
- Университеты
- Университет
- Университет штата Мэриленд
- us
- использование
- используемый
- пользователей
- через
- Вердикт
- ВИНУ
- законопроект
- Путь..
- we
- неделя
- были
- будь то
- в то время как
- будете
- в
- без
- слова
- Работа
- работает
- бы
- записывать
- письменный
- X
- еще
- зефирнет