Amazon Q affronta le sfide: allucinazioni e fughe di dati

L'assistente AI generativo di Amazon, Amazon Q, è sotto esame. I rapporti indicano allucinazioni e fughe di dati, innescando dibattiti sulla sua disponibilità per l'utilizzo aziendale.

Per quanto riguarda l’aumento, gli esperti sottolineano l’importanza di test approfonditi, le potenziali normative e il ruolo di Amazon nell’affrontare queste sfide.

Emergono allucinazioni e problemi di privacy

I documenti trapelati riportati da The Platformer lo rivelano Amazon Q è alle prese con imprecisioni, comprese allucinazioni e fughe di dati. Gli studi evidenziano l’imprecisione dei modelli linguistici di grandi dimensioni (LLM) quando collegati ai database aziendali. Gli analisti che seguono il settore suggeriscono che questi problemi rendono Amazon Q inadatto al processo decisionale in un contesto aziendale.

Pareekh Jain, CEO di EIIRTrend & Pareekh Consulting, sottolinea i limiti, affermando: "Se sono presenti allucinazioni, non è possibile utilizzarle per prendere decisioni in un contesto aziendale". Mentre Amazon posiziona Q come compagno di lavoro per milioni di persone, gli analisti mettono in dubbio la sua disponibilità per un utilizzo aziendale diffuso.

Le sfide dei test e l’importanza delle sperimentazioni interne

Per affrontare questi problemi, gli esperti sottolineano la necessità di test interni approfonditi prima del IA generativa l'assistente è pronto per il rilascio commerciale. Jain sottolinea l’importanza di valutare dati e algoritmi per individuare la causa principale delle imprecisioni.

"Penso che debbano prima fare più test con i dipendenti interni", ha aggiunto Jain. "Devono vedere se si tratta di un problema con i dati o con l'algoritmo." Amazon Q sfrutta 17 anni di esperienza in termini di dati e sviluppo di AWS, sottolineando la posta in gioco per Amazon nel panorama dell'intelligenza artificiale in rapida evoluzione.

Formazione e passi verso il miglioramento

Mentre le allucinazioni pongono sfide, Sharath Srinivasamurthy, vicepresidente associato di IDC, evidenzia i passaggi per migliorare l’uso dell’intelligenza artificiale generativa. Srinivasamurthy suggerisce modelli di formazione su dati di qualità superiore, un rapido aumento, un perfezionamento continuo dei dati specifici dell'organizzazione e l'integrazione di controlli umani per risposte sospette.

“L’addestramento dei modelli su dati di migliore qualità, il perfezionamento continuo dei modelli sull’organizzazione o sui dati e sulle politiche specifici del settore e l’aumento di un livello di controllo umano nel caso in cui la risposta sia sospetta sono alcuni dei passi che devono essere intrapresi per sfruttare al meglio questa tecnologia emergente”, afferma Srinivasamurthy.

Preoccupazioni normative e richiesta di un’intelligenza artificiale responsabile

Report di allucinazioni stimolano discussioni sulla necessità di regolamentazioni, ma Sanchit Vir Gogia, capo analista e amministratore delegato di Greyhound Research, mette in guardia contro potenziali controproduzioni. Gogia suggerisce che normative eccessivamente stringenti potrebbero impedire lo scambio e l’utilizzo dei dati, indicando il successo del GPT di OpenAI come esempio dei vantaggi di un settore meno regolamentato.

Jain fa eco a questo sentimento, sottolineando l’importanza dell’autoregolamentazione. “Le regolamentazioni possono esistere, ma l’attenzione è rivolta principalmente all’autoregolamentazione”, spiega Jain. “L’accento dovrebbe essere posto sull’intelligenza artificiale responsabile, in cui la logica può essere spiegata ai clienti invece di creare sistemi di “scatola nera”.

Mentre Amazon entra nello spazio dell’intelligenza artificiale generativa, tutti gli occhi sono puntati sul colosso della tecnologia per affrontare queste sfide, soprattutto considerando il suo ingresso tardivo rispetto ai leader del settore come Microsoft e Google. Jain sottolinea che AWS è in ritardo, il che aumenta le aspettative e il controllo su tecnologie come i chatbot.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Fonte: https://metanews.com/amazon-q-faces-challenges-hallucinations-and-data-leaks-raise-questions-on-ai-readiness/