A ascensão dos LLMs baseados em RAG em 2024 - DATAVERSITY

A ascensão dos LLMs baseados em RAG em 2024 – DATAVERSITY

Carimbo de data / hora: 15 de janeiro de 2024 3h25
Nó Fonte: 3062317

À medida que avançamos em 2024, uma tendência se destaca com destaque no horizonte: a ascensão dos modelos de geração aumentada de recuperação (RAG) no domínio dos grandes modelos de linguagem (LLMs). Na sequência dos desafios colocados pelas alucinações e limitações de formação, os LLMs baseados em RAG estão a emergir como uma solução promissora que poderá remodelar a forma como as empresas lidam com os dados.

O aumento em popularidade dos LLMs em 2023 trouxe consigo uma onda de possibilidades transformadoras, mas não foi isenta de obstáculos. As “alucinações” – casos em que o modelo gera informações imprecisas ou fictícias – e as restrições durante a fase de formação suscitaram preocupações, especialmente em aplicações de dados empresariais. 

No entanto, o advento dos modelos RAG promete mitigar estes desafios, oferecendo uma solução robusta que poderá revolucionar a acessibilidade dos dados dentro das organizações.

Os modelos RAG oferecem uma solução para combater os desafios das alucinações, fornecendo informações auditáveis ​​e atualizadas. Estes modelos permitem o acesso a armazenamentos de dados externos, garantindo que a informação fornecida não é apenas fiável, mas também atual.

Para empresas que dependem insights baseados em dados, adotar LLMs baseados em RAG pode ser uma virada de jogo. Estes modelos aumentam a fiabilidade e a relevância das informações obtidas, fornecendo dados auditáveis ​​e atualizados que são cruciais para uma tomada de decisão informada.

O ponto crucial dos modelos RAG reside em abrigar conhecimentos especializados fora do modelo, muitas vezes em bancos de dados vetoriais, gráficos de conhecimento ou tabelas de dados estruturados. Essa configuração cria uma camada intermediária sofisticada e de baixa latência entre armazenamentos de dados e usuários finais. No entanto, também amplifica as consequências de dados imprecisos, necessitando de um quadro robusto de observabilidade dos dados.

À medida que as empresas mudam cada vez mais para a implantação de modelos RAG em casos de uso de produção, a necessidade de observabilidade dos dados também se torna fundamental. As organizações precisarão investir mais pesadamente em processos abrangentes de auditoria de dados para garantir a confiabilidade das informações referenciadas por LLMs baseados em RAG.

Um dos líderes do setor que aposta significativamente nos modelos RAG é o Databricks. Em um bate-papo recente no Money 2020, Ali Ghodsi, cofundador e CEO da Databricks, revelou que seus clientes estão adotando ativamente RAGs, com 60% de seus casos de uso envolvendo LLMs sendo construídos sobre essa arquitetura. A empresa vê esta nova tecnologia como uma pedra angular para avanços futuros na observabilidade de dados dentro dos LLMs.

Em 2024 e além, os LLMs baseados em RAG se tornarão uma força motriz na evolução do processamento e análise de dados. É imperativo que as empresas não apenas adotem esta tecnologia, mas também fortaleçam as suas práticas de observabilidade de dados para aproveitar o verdadeiro potencial dos LLMs baseados em RAG no cenário em constante expansão da inteligência artificial.

Carimbo de hora:

Mais de DATAVERSIDADE