Az Amazon Q kihívásokkal néz szembe: hallucinációk és adatszivárgás

Az Amazon generatív mesterséges intelligencia asszisztense, az Amazon Q vizsgálat alatt áll. A jelentések hallucinációkat és adatszivárgást jeleznek, ami vitákat vált ki a vállalati felhasználásra való felkészültségéről.

Ami a szerelést illeti, a szakértők hangsúlyozzák az alapos tesztelés fontosságát, a lehetséges szabályozásokat és az Amazon szerepét a kihívások kezelésében.

Hallucinációk és magánéleti problémák merülnek fel

A The Platformer által közölt kiszivárgott dokumentumok ezt mutatják Amazon Q pontatlanságokkal küszködik, beleértve a hallucinációkat és az adatszivárgásokat. A tanulmányok rávilágítanak a nagy nyelvi modellek (LLM) pontatlanságára, amikor vállalati adatbázisokhoz kapcsolódnak. Az iparágat nyomon követő elemzők azt sugallják, hogy ezek a problémák az Amazon Q-t alkalmatlanná teszik a vállalati környezetben történő döntéshozatalra.

Pareekh Jain, az EIIRTrend & Pareekh Consulting vezérigazgatója rámutat a korlátokra, és kijelenti: "Ha hallucinációk jelen vannak, nem használhatja őket döntéshozatalra vállalati környezetben." Míg az Amazon milliók munkatársaként pozicionálja a Q-t, az elemzők megkérdőjelezik, hogy készen áll-e a széles körű vállalati felhasználásra.

Tesztelési kihívások és a belső próbák jelentősége

E problémák megoldása érdekében a szakértők hangsúlyozzák, hogy kiterjedt belső tesztelésre van szükség, mielőtt a generatív AI Az asszisztens készen áll a kereskedelmi forgalomba hozatalra. Jain hangsúlyozza az adatok és algoritmusok kiértékelésének jelentőségét a pontatlanságok kiváltó okainak meghatározásában.

„Úgy gondolom, hogy először több tesztelést kell végezniük a belső alkalmazottakkal” – tette hozzá Jain. "Meg kell nézniük, hogy az adatokkal vagy az algoritmussal van-e probléma." Az Amazon Q az AWS 17 évnyi adat- és fejlesztési jártasságát használja ki, hangsúlyozva az Amazon tétjét a gyorsan fejlődő AI-környezetben.

Képzés és lépések a fejlődés felé

Míg a hallucinációk kihívást jelentenek, Sharath Srinivasamurthy, az IDC alelnöke kiemeli a generatív mesterséges intelligencia használatának javítását célzó lépéseket. Srinivasamurthy képzési modelleket javasol a jobb minőségű adatokra, az azonnali kiegészítésre, a szervezet-specifikus adatok folyamatos finomhangolására, valamint a gyanús válaszok emberi ellenőrzésének beépítésére.

„A modellek képzése a jobb minőségű adatokra, a modellek folyamatos finomhangolása a szervezetre vagy az iparág-specifikus adatokra és irányelvekre, valamint az emberi ellenőrzés egy rétegének bővítése arra az esetre, ha a válasz gyanús lenne, néhány olyan lépés, amelyet meg kell tenni annak érdekében, hogy a lehető legjobban kihasználni ezt a feltörekvő technológiát” – mondja Srinivasamurthy.

Szabályozási aggályok és a felelős mesterséges intelligencia iránti felhívás

Jelentések A hallucinációk miatti viták a szabályozás szükségességéről szólnak, de Sanchit Vir Gogia, a Greyhound Research vezető elemzője és vezérigazgatója óva int az esetleges kontraproduktivitástól. Gogia azt sugallja, hogy a túl szigorú szabályozás akadályozhatja az adatok cseréjét és felhasználását, és az OpenAI GPT sikerére mutat rá, mint a kevésbé szabályozott iparág előnyeire.

Jain visszhangozza ezt az érzést, hangsúlyozva az önszabályozás fontosságát. „Lehet szabályozás, de a hangsúly elsősorban az önszabályozáson van” – magyarázza Jain. „A hangsúlyt a felelős AI-n kell helyezni, ahol a logikát el lehet magyarázni az ügyfeleknek ahelyett, hogy „fekete doboz” rendszereket hoznánk létre.”

Ahogy az Amazon belép a generatív mesterséges intelligencia terébe, minden szem a technológiai óriásra szegezi, hogy megbirkózzanak ezekkel a kihívásokkal, különösen, ha figyelembe vesszük, hogy az iparági vezetőkhöz, például a Microsofthoz és a Google-hoz képest későn lépett be. Jain megjegyzi, hogy az AWS lemaradó, növeli az elvárásokat és az olyan technológiákat, mint a chatbotok.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://metanews.com/amazon-q-faces-challenges-hallucinations-and-data-leaks-raise-questions-on-ai-readiness/