Amazon Q Faces Challenges: Hallucinations And Data Leaks

Ponovno objavil Platon

Spremljevalci: 0

Amazonov generativni AI pomočnik, Amazon Q, je pod drobnogledom. Poročila kažejo na halucinacije in uhajanje podatkov, kar sproža razprave o pripravljenosti za uporabo v podjetjih..

Kar zadeva pomisleke, strokovnjaki poudarjajo pomen temeljitega testiranja, morebitnih predpisov in vloge Amazona pri obvladovanju teh izzivov.

Pojavijo se halucinacije in težave z zasebnostjo

Razkriti dokumenti, o katerih poroča The Platformer, razkrivajo, da Amazon Q se spopada z netočnostmi, vključno s halucinacijami in uhajanjem podatkov. Študije poudarjajo netočnost velikih jezikovnih modelov (LLM), ko so povezani z bazami podatkov podjetja. Analitiki, ki spremljajo industrijo, menijo, da zaradi teh težav Amazon Q ni primeren za sprejemanje odločitev v korporativnem okolju.

Pareekh Jain, izvršni direktor EIIRTrend & Pareekh Consulting, opozarja na omejitve in pravi: "Če so prisotne halucinacije, jih ne morete uporabiti za odločanje v korporativnem okolju." Medtem ko Amazon postavlja Q kot delovnega spremljevalca za milijone, analitiki dvomijo v njegovo pripravljenost za široko uporabo v podjetjih.

Izzivi testiranja in pomen internih preizkusov

Za reševanje teh težav strokovnjaki poudarjajo potrebo po obsežnem notranjem testiranju, preden se generativni AI pomočnik je pripravljen za komercialno izdajo. Jain poudarja pomen ocenjevanja podatkov in algoritmov, da bi natančno določili glavni vzrok netočnosti.

"Mislim, da morajo najprej opraviti več testiranj z notranjimi zaposlenimi," je dodal Jain. "Morajo videti, ali je težava s podatki ali algoritmom." Amazon Q izkorišča 17 let podatkov in znanja AWS o razvoju, s čimer poudarja vložke Amazona v hitro razvijajočem se okolju umetne inteligence.

Usposabljanje in koraki k izboljšanju

Medtem ko halucinacije predstavljajo izziv, Sharath Srinivasamurthy, pridruženi podpredsednik pri IDC, poudarja korake za izboljšanje uporabe generativne umetne inteligence. Srinivasamurthy predlaga modele usposabljanja na podatkih višje kakovosti, takojšnjo razširitev, stalno natančno prilagajanje podatkov, specifičnih za organizacijo, in vključitev človeških pregledov za sumljive odzive.

»Usposabljanje modelov za bolj kakovostne podatke, nenehno natančno prilagajanje modelov podatkov in politik, specifičnih za organizacijo ali panogo, in povečanje ravni človeškega preverjanja v primeru, da je odziv sumljiv, so nekateri od korakov, ki jih je treba izvesti, da čim bolje izkoristiti to nastajajočo tehnologijo,« pravi Srinivasamurthy.

Regulativni pomisleki in poziv k odgovorni umetni inteligenci

Poročila halucinacij spodbudijo razprave o potrebi po predpisih, vendar Sanchit Vir Gogia, glavni analitik in izvršni direktor pri Greyhound Research, svari pred morebitno kontraproduktivnostjo. Gogia predlaga, da bi prestrogi predpisi lahko ovirali izmenjavo in uporabo podatkov, pri čemer kaže na uspeh GPT OpenAI kot primer prednosti manj regulirane industrije.

Jain ponavlja to mnenje in poudarja pomen samoregulacije. »Predpisi morda obstajajo, vendar je poudarek predvsem na samoregulaciji,« pojasnjuje Jain. "Poudarek bi moral biti na odgovorni umetni inteligenci, kjer je mogoče strankam razložiti logiko namesto ustvarjanja sistemov 'črnih skrinjic'."

Ko Amazon vstopa v generativni prostor umetne inteligence, so vse oči uprte v tehnološkega velikana, da bi se spopadel s temi izzivi, zlasti glede na njegov pozen vstop v primerjavi z vodilnimi v industriji, kot sta Microsoft in Google. Jain ugotavlja, da AWS zaostaja, kar povečuje pričakovanja in nadzor nad tehnologijami, kot so chatboti.