Amazon Q seisab silmitsi väljakutsetega: hallutsinatsioonid ja andmelekked

Amazoni generatiivne AI-assistent Amazon Q on vaatluse all. Aruanded näitavad hallutsinatsioone ja andmelekkeid, tekitades arutelusid selle valmisoleku üle ettevõttes kasutamiseks.

Seoses sellega, et eksperdid rõhutavad põhjaliku testimise olulisust, võimalikke eeskirju ja Amazoni rolli nende väljakutsete lahendamisel.

Tekivad hallutsinatsioonid ja privaatsusprobleemid

Platformeri teatatud lekkinud dokumendid näitavad seda Amazon Q maadleb ebatäpsustega, sealhulgas hallutsinatsioonide ja andmeleketega. Uuringud toovad esile suurte keelemudelite (LLM) ebatäpsuse, kui need on ühendatud ettevõtete andmebaasidega. Tööstust jälgivad analüütikud viitavad sellele, et need probleemid muudavad Amazon Q ettevõttes otsuste tegemiseks sobimatuks.

EIIRTrend & Pareekh Consultingu tegevjuht Pareekh Jain juhib tähelepanu piirangutele, öeldes: "Kui hallutsinatsioonid on olemas, ei saa te neid ettevõttes otsuste tegemiseks kasutada." Kuigi Amazon positsioneerib Q-d miljonite töökaaslaseks, seavad analüütikud kahtluse alla selle valmisoleku laialdaseks kasutamiseks ettevõtetes.

Testimise väljakutsed ja sisemiste katsetuste tähtsus

Nende probleemide lahendamiseks rõhutavad eksperdid vajadust põhjaliku sisetestimise järele enne generatiivne AI assistent on müügiks valmis. Jain rõhutab andmete ja algoritmide hindamise olulisust, et selgitada välja ebatäpsuste algpõhjus.

"Ma arvan, et nad peavad kõigepealt sisemiste töötajatega rohkem testima," lisas Jain. "Nad peavad nägema, kas probleem on andmete või algoritmiga." Amazon Q kasutab 17 aastat AWS-i andmeid ja arendusoskusi, rõhutades Amazoni panuseid kiiresti areneval tehisintellekti maastikul.

Koolitus ja sammud paranemise suunas

Kuigi hallutsinatsioonid kujutavad endast väljakutseid, toob IDC asepresident Sharath Srinivasamurthy esile samme generatiivse AI kasutamise parandamiseks. Srinivasamurthy soovitab kvaliteetsemate andmete koolitusmudeleid, kiiret täiendamist, organisatsioonispetsiifiliste andmete pidevat peenhäälestamist ja kahtlaste vastuste inimeste kontrollimist.

"Mudelite koolitamine parema kvaliteediga andmete alal, pidev organisatsiooni- või tööstusspetsiifiliste andmete ja poliitikate mudelite viimistlemine ning inimliku kontrolli kihi suurendamine juhuks, kui vastus on kahtlane, on mõned sammud, mida tuleb astuda kasutage seda arenevat tehnoloogiat parimal viisil, ”ütleb Srinivasamurthy.

Regulatiivsed probleemid ja üleskutse vastutustundlikule tehisintellektile

Aruanded hallutsinatsioonid tekitavad arutelusid regulatsioonide vajaduse üle, kuid Sanchit Vir Gogia, Greyhound Researchi peaanalüütik ja tegevjuht, hoiatab võimaliku kahjuliku mõju eest. Gogia viitab sellele, et liiga ranged eeskirjad võivad takistada andmete vahetamist ja kasutamist, osutades OpenAI GPT edule näitena vähem reguleeritud tööstuse eelistest.

Jain kordab seda tunnet, rõhutades iseregulatsiooni tähtsust. "Eeskirjad võivad eksisteerida, kuid keskendutakse peamiselt eneseregulatsioonile, " selgitab Jain. "Rõhk peaks olema vastutustundlikul tehisintellektil, mille loogikat saab klientidele selgitada, selle asemel et luua "musta kasti" süsteeme.

Kuna Amazon siseneb generatiivsesse tehisintellekti ruumi, on kõik pilgud suunatud tehnoloogiahiiglasele, kes nende väljakutsetega tegeleb, eriti arvestades selle hilist turuletulekut võrreldes valdkonna liidritega nagu Microsoft ja Google. Jain märgib, et AWS on mahajääja, suurendades ootusi ja kontrolli selliste tehnoloogiate suhtes nagu vestlusrobotid.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://metanews.com/amazon-q-faces-challenges-hallucinations-and-data-leaks-raise-questions-on-ai-readiness/