Amazon Q Faces Challenges: Hallucinations And Data Leaks

Opublikowane ponownie przez Plato

Obserwuje: 0

Generatywny asystent AI firmy Amazon, Amazon Q, jest poddawany analizie. Raporty wskazują na halucynacje i wycieki danych, wywołując debaty na temat jego gotowości do użytku korporacyjnego.

Jeśli chodzi o górę, eksperci podkreślają znaczenie dokładnych testów, potencjalnych przepisów i roli Amazona w radzeniu sobie z tymi wyzwaniami.

Pojawiają się halucynacje i problemy z prywatnością

Ujawniają to dokumenty, które wyciekły według The Platformer Amazonka Q boryka się z nieścisłościami, w tym halucynacjami i wyciekami danych. Badania podkreślają niedokładność dużych modeli językowych (LLM) podłączonych do korporacyjnych baz danych. Analitycy śledzący branżę sugerują, że problemy te sprawiają, że Amazon Q nie nadaje się do podejmowania decyzji w środowisku korporacyjnym.

Pareekh Jain, dyrektor generalny EIIRTrend & Pareekh Consulting, wskazuje na ograniczenia, stwierdzając: „Jeśli występują halucynacje, nie można ich wykorzystywać do podejmowania decyzji w środowisku korporacyjnym”. Chociaż Amazon pozycjonuje Q jako towarzysza pracy dla milionów, analitycy kwestionują jego gotowość do powszechnego użytku korporacyjnego.

Wyzwania testowania i znaczenie prób wewnętrznych

Aby rozwiązać te problemy, eksperci podkreślają potrzebę przeprowadzenia szeroko zakrojonych testów wewnętrznych przed generatywna sztuczna inteligencja Assistant jest gotowy do komercyjnego wydania. Jain podkreśla znaczenie oceny danych i algorytmów w celu ustalenia pierwotnej przyczyny niedokładności.

„Myślę, że najpierw muszą przeprowadzić więcej testów z pracownikami wewnętrznymi” – dodał Jain. „Muszą sprawdzić, czy jest to problem z danymi, czy z algorytmem”. Amazon Q wykorzystuje 17 lat doświadczenia AWS w zakresie danych i rozwoju, podkreślając stawkę, jaką odgrywa Amazon w szybko rozwijającym się krajobrazie sztucznej inteligencji.

Szkolenia i kroki w kierunku doskonalenia

Chociaż halucynacje stanowią wyzwanie, Sharath Srinivasamurthy, zastępca wiceprezesa IDC, podkreśla kroki mające na celu poprawę wykorzystania generatywnej sztucznej inteligencji. Srinivasamurthy sugeruje modele szkoleniowe w oparciu o dane o wyższej jakości, szybkie ich rozszerzanie, ciągłe dostrajanie danych specyficznych dla organizacji i uwzględnianie ludzkich kontroli pod kątem podejrzanych odpowiedzi.

„Szkolenie modeli w oparciu o dane lepszej jakości, ciągłe dostrajanie modeli w zakresie danych i zasad organizacji lub specyficznych dla branży oraz wzmacnianie poziomu kontroli ludzkiej w przypadku, gdy reakcja jest podejrzana, to tylko niektóre z kroków, które należy podjąć, aby jak najlepiej wykorzystać tę powstającą technologię” – mówi Srinivasamurthy.

Obawy regulacyjne i wezwanie do odpowiedzialnej sztucznej inteligencji

Raporty halucynacji skłania do dyskusji na temat potrzeby wprowadzenia regulacji, ale Sanchit Vir Gogia, główny analityk i dyrektor generalny Greyhound Research, przestrzega przed potencjalnymi efektami przeciwnymi do zamierzonych. Gogia sugeruje, że zbyt rygorystyczne przepisy mogą utrudniać wymianę i wykorzystanie danych, wskazując sukces GPT OpenAI jako przykład korzyści płynących z mniej regulowanej branży.

Jain podziela to zdanie, podkreślając znaczenie samoregulacji. „Mogą istnieć przepisy, ale nacisk kładziony jest przede wszystkim na samoregulację” – wyjaśnia Jain. „Należy położyć nacisk na odpowiedzialną sztuczną inteligencję, w której logikę można wyjaśnić klientom, zamiast tworzyć systemy „czarnych skrzynek”.”

Gdy Amazon wkracza w przestrzeń generatywnej sztucznej inteligencji, wszystkie oczy są zwrócone na technologicznego giganta, który ma stawić czoła tym wyzwaniom, zwłaszcza biorąc pod uwagę jego późne wejście na rynek w porównaniu z liderami branży, takimi jak Microsoft i Google. Jain zauważa, że AWS jest opóźniony, co powoduje wzrost oczekiwań i kontroli w odniesieniu do technologii takich jak chatboty.