Технолог потратил годы на создание обучающего чат-бота с искусственным интеллектом. Он решил, что это невозможно. - Новости EdSurge

Технолог потратил годы на создание обучающего чат-бота с искусственным интеллектом. Он решил, что это невозможно. – Новости EdSurge

Отметка времени: 22 января 2024 г., 4:00
Исходный узел: 3078433

Когда Сатья Нитта работал в IBM, он и команда коллег взяли на себя смелое задание: использовать новейшие разработки в области искусственного интеллекта для создания нового типа персонального цифрового наставника.

Это было до того, как появился ChatGPT, и о чудесах искусственного интеллекта говорили меньше людей. Но Нитта работал с, пожалуй, самой известной системой искусственного интеллекта того времени — IBM Watson. Этот инструмент искусственного интеллекта одержал несколько крупных побед, в том числе избиение людей на викторине Jeopardy в 2011 году.

Нитта говорит, что он надеялся, что Уотсон сможет найти универсального репетитора, но знал, что задача будет чрезвычайно трудной. «Я помню, как говорил высшему руководству IBM, что это будет 25-летний путь», — сказал он недавно EdSurge.

Он говорит, что его команда потратила около пяти лет на попытки, и попутно они помогли реализовать несколько небольших попыток создания обучающих продуктов, таких как пилотный чат-бот-помощник, который часть системы онлайн-курсов по психологии Pearson в 2018 году.

Но, в конце концов, Нитта решил, что, хотя генеративная технология искусственного интеллекта, вызывающая ажиотаж в наши дни, приносит новые возможности, которые изменят образование и другие области, эта технология просто не способна стать универсальным личным репетитором и не будет по крайней мере, на десятилетия, если вообще когда-либо.

«У нас появятся летающие машины раньше, чем у нас появятся наставники по искусственному интеллекту», — говорит он. «Это глубоко человеческий процесс, с которым ИИ безнадежно неспособен справиться. Это как быть терапевтом или медсестрой».

Вместо этого он стал соучредителем новой компании в области искусственного интеллекта под названием Merlyn Mind, которая создает другие типы инструментов на основе искусственного интеллекта для преподавателей.

Между тем, многие компании и руководители образовательных учреждений в наши дни усердно работают над воплощением мечты о создании наставников по искусственному интеллекту. Даже недавнее Распоряжение Белого дома стремится помочь делу.

Ранее в этом месяце Сал Хан, руководитель некоммерческой организации «Академия Хана», рассказал New York Times: «Мы находимся на пороге использования ИИ для, возможно, самой большой позитивной трансформации, которую когда-либо видело образование. И мы собираемся добиться этого, предоставив каждому ученику на планете замечательного личного наставника с искусственным интеллектом».

Академия Хана была одной из первых организаций, которая использовала ChatGPT, чтобы попытаться разработать такого репетитора, которого она называет Ханмиго, который в настоящее время находится на пилотной стадии в ряде школ.

Однако система Хана содержит неприятное предупреждение, в котором отмечается, что она «иногда допускает ошибки». Предупреждение необходимо, поскольку все новейшие чат-боты с искусственным интеллектом страдают так называемыми «галлюцинациями» — словом, используемым для описания ситуаций, когда чат-бот просто выдумывает детали, когда не знает ответа на вопрос, заданный пользователем.

Эксперты по искусственному интеллекту заняты попытками решить проблему галлюцинаций, и на данный момент одним из наиболее многообещающих подходов является использование отдельного чат-бота с искусственным интеллектом, который будет проверять результаты такой системы, как ChatGPT, чтобы выяснить, не выдумала ли она детали. Это то что исследователи из Технологического института Джорджии пытались, например, надеясь, что их система мультичат-ботов сможет дойти до того, что любая ложная информация будет удалена из ответа, прежде чем он будет показан студенту. Но пока не ясно, сможет ли этот подход достичь уровня точности, который примут преподаватели.

Однако на этом критическом этапе разработки новых инструментов искусственного интеллекта полезно задаться вопросом, является ли наставник по чат-боту подходящей целью для разработчиков. Или есть лучшая метафора, чем «наставник», для описания того, что может сделать генеративный ИИ, чтобы помочь ученикам и учителям?

«Всегда на связи»

В наши дни Майкл Фельдштейн проводит много времени, экспериментируя с чат-ботами. Он давний консультант и блоггер в области образовательных технологий, и в прошлом он не стеснялся критиковать то, что он считал чрезмерной шумихой со стороны компаний, продающих инструменты для образовательных технологий.

В 2015 он классно критиковали обещает о том, что на тот момент было новейшим искусственным интеллектом для образования — инструменте от компании Knewton. Генеральный директор Knewton Хосе Феррейра заявил, что его продукт будет «похож на небесного робота-наставника, который сможет наполовину читать ваши мысли и определять ваши сильные и слабые стороны, вплоть до процентиля». Это заставило Фельдштейна ответить, что генеральный директор «продавал змеиное масло», потому что, как утверждал Фельдштейн, этот инструмент далеко не соответствовал этому обещанию. (Активы «Ньютона» были тихо распродан несколькими годами позже.)

Так что же Фельдштейн думает о последних обещаниях экспертов по искусственному интеллекту о том, что эффективные репетиторы могут появиться на горизонте?

«ChatGPT определенно не является змеиным маслом — вовсе нет», — говорит он EdSurge. «Это также не робот-наставник в небе, который может наполовину читать ваши мысли. У него есть новые возможности, и нам нужно подумать о том, какие функции обучения могут предоставить современные технологии, которые были бы полезны для студентов».

Однако он считает, что обучение — это полезный способ увидеть, на что способны ChatGPT и другие новые чат-боты. И он говорит, что это основано на личном опыте.

У Фельдштейна есть родственник, который борется с кровоизлиянием в мозг, поэтому Фельдштейн обратился к ChatGPT, чтобы дать ему личные уроки по пониманию состояния здоровья и прогноза его близкого человека. По его словам, получая обновления от друзей и родственников на Facebook, Фельдштейн задает вопросы в постоянной теме в ChatGPT, чтобы попытаться лучше понять, что происходит.

«Когда я задаю правильный вопрос, это может дать мне необходимое количество подробностей на тему: «Что мы знаем сегодня о ее шансах снова поправиться?» — говорит Фельдштейн. «Это не то же самое, что разговор с врачом, но он дал мне содержательные знания по серьезному вопросу и помог мне получить более подробную информацию о состоянии моего родственника».

Хотя Фельдштейн говорит, что назвал бы это наставником, он утверждает, что по-прежнему важно, чтобы компании не перепродавали свои инструменты искусственного интеллекта. «Мы оказали плохую услугу, заявив, что это всезнающие коробки, или они таковыми станут через несколько месяцев», — говорит он. «Это инструменты. Это странные инструменты. Они ведут себя странным образом — как и люди».

Он отмечает, что даже репетиторы-люди могут совершать ошибки, но большинство студентов понимают, во что они ввязываются, когда договариваются о встрече с репетитором-человеком.

«Когда вы приходите в репетиторский центр в своем колледже, там не все знают. Вы не представляете, насколько они обучены. Есть шанс, что они скажут вам что-то не так. Но вы пойдете и получите всю возможную помощь».

Как бы вы ни называли эти новые инструменты ИИ, говорит он, будет полезно «иметь постоянного помощника, которому вы сможете задавать вопросы», даже если их результаты являются лишь отправной точкой для дальнейшего обучения.

«Скучные», но важные задачи поддержки

Каковы новые способы использования инструментов генеративного ИИ в образовании, если репетиторство окажется неподходящим?

По мнению Нитты, более важная роль — служить помощником эксперта, а не заменять эксперта-преподавателя. Другими словами, вместо того, чтобы заменить, скажем, терапевта, он полагает, что чат-боты могут помочь терапевту-человеку обобщить и систематизировать записи сеанса с пациентом.

«Это очень полезный инструмент, а не искусственный интеллект, притворяющийся терапевтом», — говорит он. Хотя некоторым это может показаться «скучным», он утверждает, что суперсила технологии заключается в «автоматизации вещей, которые люди не любят делать».

В образовательном контексте его компания создает инструменты искусственного интеллекта, призванные помочь учителям или репетиторам-людям лучше выполнять свою работу. С этой целью Merlyn Mind предприняла необычный шаг, создав с нуля собственную так называемую большую языковую модель, предназначенную для образования.

Даже в этом случае, он утверждает, что наилучшие результаты достигаются, когда модель настроена на поддержку конкретных областей образования, обучаясь с использованием проверенных наборов данных, а не полагаясь на ChatGPT и другие основные инструменты, которые черпают огромные объемы информации из Интернета.

«Что делает репетитор-человек хорошо? Они знают студента и обеспечивают человеческую мотивацию», — добавляет он. «Мы все стремимся к тому, чтобы ИИ дополнял репетитора».

Отметка времени:

Больше от Эд Сёрдж