Un tehnolog a petrecut ani de zile construind un tutore de chatbot AI. El a decis că nu se poate. - Știri EdSurge

Un tehnolog a petrecut ani de zile construind un tutore de chatbot AI. El a decis că nu se poate. – Știri EdSurge

Marca temporală: 22 ianuarie 2024 4:00
Nodul sursă: 3078433

Când Satya Nitta a lucrat la IBM, el și o echipă de colegi și-au asumat o misiune îndrăzneață: să folosească cele mai noi tehnologii în inteligența artificială pentru a construi un nou tip de tutor digital personal.

Acest lucru a fost înainte de a exista ChatGPT și mai puțini oameni vorbeau despre minunile AI. Dar Nitta lucra cu ceea ce era probabil cel mai înalt sistem AI de la acea vreme, Watson de la IBM. Instrumentul AI a obținut câteva câștiguri mari, inclusiv bătând oameni la emisiunea de test Jeopardy în 2011.

Nitta spune că era optimist că Watson ar putea alimenta un tutore generalizat, dar știa că sarcina va fi extrem de dificilă. „Îmi amintesc că i-am spus personalului de vârf al IBM că aceasta va fi o călătorie de 25 de ani”, a spus el recent pentru EdSurge.

El spune că echipa sa a petrecut aproximativ cinci ani încercând și, pe parcurs, au contribuit la construirea unor încercări la scară mică în produse de învățare, cum ar fi un asistent pilot de chatbot care a fost parte a unui sistem de cursuri de psihologie online Pearson în 2018.

Dar, în cele din urmă, Nitta a decis că, deși tehnologia AI generativă care provoacă entuziasm în zilele noastre aduce noi capacități care vor schimba educația și alte domenii, tehnologia pur și simplu nu este în măsură să devină un tutor personal generalizat și nu va fi. de zeci de ani cel puțin, dacă vreodată.

„Vom avea mașini zburătoare înainte de a avea tutori AI”, spune el. „Este un proces profund uman pe care AI este fără speranță incapabil să îl îndeplinească într-un mod semnificativ. Este ca și cum ai fi terapeut sau ca și cum ai fi asistent medical.”

În schimb, el a co-fondat o nouă companie de inteligență artificială, numită Merlyn Mind, care construiește alte tipuri de instrumente bazate pe inteligență artificială pentru educatori.

Între timp, o mulțime de companii și lideri din domeniul educației în aceste zile lucrează din greu pentru a urmări acel vis de a construi tutori AI. Chiar și una recentă Ordinul executiv al Casei Albe caută să ajute cauza.

La începutul acestei luni, Sal Khan, liderul Academiei nonprofit Khan, a declarat pentru New York Times: „Suntem în pragul utilizării AI pentru probabil cea mai mare transformare pozitivă pe care a văzut-o vreodată educația. Și modul în care vom face asta este oferind fiecărui student de pe planetă un tutore personal inteligent, dar uimitor.”

Khan Academy a fost una dintre primele organizații care a folosit ChatGPT pentru a încerca să dezvolte un astfel de tutore, pe care îl numește Khanmigo, care se află în prezent într-o fază pilot într-o serie de școli.

Totuși, sistemul lui Khan vine cu un avertisment dezamăgitor, menționând că „uneori face greșeli”. Avertismentul este necesar deoarece toți cei mai recenti chatbot-uri AI suferă de ceea ce sunt cunoscute sub denumirea de „halucinații” – cuvântul folosit pentru a descrie situațiile în care chatbot-ul pur și simplu fabrică detalii atunci când nu știe răspunsul la o întrebare adresată de un utilizator.

Experții AI sunt ocupați să încerce să compenseze problema halucinațiilor, iar una dintre cele mai promițătoare abordări de până acum este să introducă un chatbot AI separat pentru a verifica rezultatele unui sistem precum ChatGPT pentru a vedea dacă probabil a inventat detalii. Asta e ceea ce cercetătorii de la Georgia Tech au încercat, de exemplu, sperând că sistemul lor multi-chatbot poate ajunge la punctul în care orice informație falsă este ștearsă dintr-un răspuns înainte de a fi afișată unui student. Dar nu este încă clar că abordarea poate ajunge la un nivel de acuratețe pe care educatorii îl vor accepta.

În acest moment critic al dezvoltării de noi instrumente AI, este util să ne întrebăm dacă un tutore de chatbot este obiectivul potrivit spre care să se îndrepte dezvoltatorii. Sau există o metaforă mai bună decât „tutorul” pentru ceea ce poate face IA generativă pentru a ajuta studenții și profesorii?

Un „ajutor mereu activ”

Michael Feldstein petrece mult timp experimentând cu chatbot în zilele noastre. Este un consultant de multă vreme în domeniul edtech și blogger, iar în trecut nu s-a sfiat să spună ceea ce a considerat că este exagerat de hype din partea companiilor care vindeau instrumente edtech.

În 2015, el celebru criticat promisiuni despre ceea ce era atunci cel mai recent AI pentru educație – un instrument de la o companie numită Knewton. CEO-ul Knewton, Jose Ferreira, a spus că produsul său ar fi „ca un robot tutor în cer care poate să-ți citească semi-mințile și să-ți dea seama care sunt punctele tale tari și punctele slabe, până la percentilă”. Ceea ce l-a determinat pe Feldstein să răspundă că CEO-ul „vinde ulei de șarpe”, deoarece, a susținut Feldstein, instrumentul nu era nici pe departe să se ridice la acea promisiune. (Atuurile lui Knewton erau vândut în liniște cativa ani mai tarziu.)

Deci, ce părere are Feldstein despre ultimele promisiuni ale experților în inteligență artificială că tutori eficienți ar putea fi la orizont apropiat?

„ChatGPT cu siguranță nu este ulei de șarpe – departe de asta”, spune el pentru EdSurge. „De asemenea, nu este un robot tutor în cer care poate să-ți citească mintea. Are noi capabilități și trebuie să ne gândim la ce tipuri de funcții de îndrumare le poate oferi tehnologia de astăzi, care ar fi utile studenților.”

El crede totuși că tutoratul este o modalitate utilă de a vedea ceea ce ChatGPT și alți noi chatbots pot face, totuși. Și spune că asta vine din experiența personală.

Feldstein are o rudă care se luptă cu o hemoragie cerebrală, așa că Feldstein a apelat la ChatGPT pentru a-i oferi lecții personale despre înțelegerea stării medicale și a prognozei persoanei iubite. Pe măsură ce Feldstein primește actualizări de la prieteni și familie pe Facebook, spune el, el pune întrebări într-un thread în curs în ChatGPT pentru a încerca să înțeleagă mai bine ce se întâmplă.

„Când îl întreb în modul corect, îmi poate oferi cantitatea potrivită de detalii despre: „Ce știm astăzi despre șansele ei de a fi din nou în regulă?””, spune Feldstein. „Nu este același lucru cu a vorbi cu un medic, dar m-a instruit în moduri semnificative despre un subiect serios și m-a ajutat să devin mai educat cu privire la starea rudei mele.”

În timp ce Feldstein spune că ar numi asta un tutore, el susține că este totuși important ca companiile să nu-și exagereze instrumentele AI. „Am făcut un deserviciu pentru a spune că sunt aceste cutii atotștiutoare, sau vor fi în câteva luni”, spune el. „Sunt unelte. Sunt unelte ciudate. Ei se comportă rău în moduri ciudate – la fel ca oamenii.”

El subliniază că chiar și tutorii umani pot face greșeli, dar majoritatea studenților au o idee în ce se bagă atunci când fac o întâlnire cu un tutor uman.

„Când intri într-un centru de tutorat din facultate, ei nu știu totul. Nu știi cât de pregătiți sunt. Există șansa să vă spună ceva care nu este în regulă. Dar intri și primești ajutorul pe care îl poți.”

Indiferent cum numiți aceste noi instrumente AI, spune el, va fi util să „aveți un ajutor mereu activ căruia să îi puteți adresa întrebări”, chiar dacă rezultatele lor sunt doar un punct de plecare pentru mai multă învățare.

Sarcini de asistență „plictisitoare”, dar importante

Care sunt noi modalități prin care instrumentele AI generative pot fi folosite în educație, dacă tutoratul ajunge să nu fie potrivit?

Pentru Nitta, rolul mai puternic este de a servi ca asistent al experților, mai degrabă decât un înlocuitor pentru un tutor expert. Cu alte cuvinte, în loc să înlocuiască, să zicem, un terapeut, el își imaginează că chatboții pot ajuta un terapeut uman să rezumă și să organizeze notițele dintr-o sesiune cu un pacient.

„Acesta este un instrument foarte util, mai degrabă decât o IA care se pretinde a fi un terapeut”, spune el. Chiar dacă acest lucru poate fi văzut ca „plictisitor”, de unii, el susține că superputerea tehnologiei este de a „automatiza lucruri pe care oamenilor nu le place să le facă”.

În context educațional, compania sa construiește instrumente AI concepute pentru a ajuta profesorii sau pentru a ajuta tutorii umani să-și facă treaba mai bine. În acest scop, Merlyn Mind a făcut pasul neobișnuit de a-și construi propriul așa-numit model de limbaj mare de la zero, conceput pentru educație.

Chiar și atunci, el susține că cele mai bune rezultate vin atunci când modelul este reglat pentru a sprijini domenii specifice de educație, fiind instruit cu seturi de date verificate, mai degrabă decât bazându-se pe ChatGPT și alte instrumente principale care se bazează pe cantități mari de informații de pe internet.

„Ce face bine un tutor uman? Ei cunosc studentul și oferă o motivație umană”, adaugă el. „Suntem cu toții despre AI care sporește tutorele.”

Timestamp-ul:

Mai mult de la Ed Surge