Rocha Amazônica é um serviço totalmente gerenciado fornecido pela AWS que oferece aos desenvolvedores acesso a modelos de fundação (FMs) e as ferramentas para personalizá-los para aplicações específicas. Ele permite que os desenvolvedores criem e dimensionem aplicativos generativos de IA usando FMs por meio de uma API, sem gerenciar a infraestrutura. Você pode escolher entre vários FMs da Amazon e das principais startups de IA, como AI21 Labs, Anthropic, Cohere e Stability AI, para encontrar o modelo mais adequado para seu caso de uso. Com a experiência sem servidor do Amazon Bedrock, você pode começar a usar rapidamente, experimentar facilmente FMs, personalizá-los de forma privada com seus próprios dados e integrá-los e implantá-los perfeitamente em seus aplicativos usando ferramentas e recursos da AWS.
Os clientes estão criando aplicativos inovadores de IA generativa usando APIs Amazon Bedrock usando seus próprios dados proprietários. Ao acessar as APIs do Amazon Bedrock, os clientes procuram um mecanismo para configurar um perímetro de dados sem expor seus dados à Internet, para que possam mitigar possíveis vetores de ameaças decorrentes da exposição na Internet. O endpoint Amazon Bedrock VPC desenvolvido por AWS PrivateLink permite estabelecer uma conexão privada entre a VPC da sua conta e a conta do serviço Amazon Bedrock. Ele permite que as instâncias VPC se comuniquem com recursos de serviço sem a necessidade de endereços IP públicos.
Nesta postagem, demonstramos como configurar o acesso privado em sua conta AWS para acessar APIs Amazon Bedrock através de Pontos de extremidade VPC desenvolvido pela PrivateLink para ajudá-lo a criar aplicativos generativos de IA com segurança com seus próprios dados.
Visão geral da solução
Você pode usar IA generativa para desenvolver uma ampla gama de aplicativos, como resumo de texto, moderação de conteúdo e outros recursos. Ao construir tais aplicações generativas de IA usando FMs ou modelos básicos, os clientes desejam gerar uma resposta sem passar pela Internet pública ou com base em seus dados proprietários que podem residir em seus bancos de dados corporativos.
No diagrama a seguir, descrevemos uma arquitetura para configurar sua infraestrutura para ler seus dados proprietários residentes em Serviço de banco de dados relacional da Amazon (Amazon RDS) e aumente a solicitação da API Amazon Bedrock com informações do produto ao responder a consultas relacionadas ao produto a partir de seu aplicativo de IA generativo. Embora usemos o Amazon RDS neste diagrama para fins ilustrativos, você pode testar o acesso privado das APIs Amazon Bedrock de ponta a ponta usando as instruções fornecidas nesta postagem.
As etapas do fluxo de trabalho são as seguintes:
- AWS Lambda em execução na sua sub-rede VPC privada recebe a solicitação imediata do aplicativo de IA generativo.
- O Lambda faz uma chamada para o banco de dados RDS proprietário e aumenta o contexto de consulta de prompt (por exemplo, adicionando informações do produto) e invoca a API Amazon Bedrock com a solicitação de consulta aumentada.
- A chamada de API é roteada para o endpoint da VPC do Amazon Bedrock associado à política de endpoint da VPC com permissões Permitir para APIs do Amazon Bedrock.
- O endpoint da API do serviço Amazon Bedrock recebe a solicitação de API por meio do PrivateLink sem passar pela Internet pública.
- Você pode alterar a política de endpoint VPC do Amazon Bedrock para Negar permissões para validar se as chamadas de APIs do Amazon Bedrock foram negadas.
- Você também pode acessar de forma privada as APIs do Amazon Bedrock pelo VPC endpoint da sua rede corporativa por meio de um AWS Direct Connect Porta de entrada.
Pré-requisitos
Antes de começar, verifique se você tem os seguintes pré-requisitos:
- An Conta da AWS
- An Gerenciamento de acesso e identidade da AWS (IAM) com acesso para fazer o seguinte:
- Criar, editar, visualizar e excluir recursos de rede VPC
- Criar, editar, visualizar e excluir funções Lambda
- Criar, editar, visualizar e excluir funções e políticas do IAM
- Liste modelos de base e invoque o modelo de base do Amazon Bedrock
- Para esta postagem, usamos o
us-east-1
Região - SOLICITAÇÃO acesso ao modelo de fundação por meio do console Amazon Bedrock
Configure a infraestrutura de acesso privado
Nesta seção, configuramos a infraestrutura como VPC, sub-redes privadas, grupos de segurança e função Lambda usando um Formação da Nuvem AWS template.
Use o seguinte modelo para criar a pilha de infraestrutura Bedrock-GenAI-Stack
em sua conta da AWS.
O modelo CloudFormation cria os seguintes recursos em seu nome:
- Um VPC com duas sub-redes privadas em zonas de disponibilidade separadas
- Grupos de segurança e tabelas de roteamento
- Função e políticas do IAM para uso pelo Lambda, Amazon Bedrock e Amazon Elastic Compute Nuvem (Amazon EC2)
Configurar o endpoint VPC para Amazon Bedrock
Nesta seção, usamos Nuvem virtual privada da Amazon (Amazon VPC) para configurar o VPC endpoint do Amazon Bedrock para facilitar a conectividade privada da sua VPC com o Amazon Bedrock.
- No console Amazon VPC, em Nuvem privada virtual no painel de navegação, escolha Pontos finais.
- Escolha Criar ponto final.
- Escolha Crachá, entrar
bedrock-vpce
. - Debaixo Serviços, procure por bedrock-runtime e selecione
com.amazonaws.<region>.bedrock-runtime
. - Escolha VPC, especifique a VPC
Bedrock-GenAI-Project-vpc
que você criou por meio da pilha do CloudFormation na seção anterior. - No Sub-redes seção e selecione as zonas de disponibilidade e escolha os IDs de sub-rede correspondentes no menu suspenso.
- Escolha Grupos de segurança, selecione o grupo de segurança com o nome do grupo
Bedrock-GenAI-Stack-VPCEndpointSecurityGroup-
e descriçãoAllow TLS for VPC Endpoint
.
Um grupo de segurança atua como um firewall virtual para sua instância controlar o tráfego de entrada e saída. Observe que esse grupo de segurança de endpoint da VPC permite apenas o tráfego originado do grupo de segurança anexado às sub-redes privadas da VPC, adicionando uma camada de proteção.
- Escolha Criar ponto final.
- No Política seção, selecione Personalizadas e insira a seguinte política de privilégio mínimo para garantir que apenas determinadas ações sejam permitidas no recurso do modelo básico especificado,
arn:aws:bedrock:*::foundation-model/anthropic.claude-instant-v1
para um determinado principal (como função IAM da função Lambda).
Pode levar até 2 minutos até que o endpoint da interface seja criado e o status mude para Disponível. Você pode atualizar a página para verificar o status mais recente.
Configurar a função Lambda em sub-redes VPC privadas
Conclua as etapas a seguir para configurar a função Lambda:
- No console do Lambda, escolha Funções no painel de navegação.
- Escolha a função
gen-ai-lambda-stack-BedrockTestLambdaFunction-XXXXXXXXXXXX
. - No Configuração guia, escolha Permissões no painel esquerdo.
- Debaixo Função de execução¸ escolha o link para a função
gen-ai-lambda-stack-BedrockTestLambdaFunctionRole-XXXXXXXXXXXX
.
Você é redirecionado para o console do IAM.
- No Políticas de permissões seção, escolha Adicionar permissões e escolha Criar política em linha.
- No JSON guia, modifique a política da seguinte forma:
- Escolha Próximo.
- Escolha nome da política, entrar
enivpce-policy
. - Escolha Criar política.
- Adicione a seguinte política em linha (forneça seus VPC endpoints de origem) para restringir o acesso do Lambda às APIs do Amazon Bedrock somente por meio de VPC endpoints:
- Na página da função Lambda, na página Configuração guia, escolha VPC no painel esquerdo e escolha Editar.
- Escolha VPC, escolha
Bedrock-GenAI-Project-vpc
. - Escolha Sub-redes, escolha as sub-redes privadas.
- Escolha Grupos de segurança, escolha
gen-ai-lambda-stack-SecurityGroup-
(o grupo de segurança para a carga de trabalho do Amazon Bedrock em sub-redes privadas). - Escolha Salvar.
Teste controles de acesso privado
Agora você pode testar os controles de acesso privado (APIs Amazon Bedrock em VPC endpoints).
- No console do Lambda, escolha Funções no painel de navegação.
- Escolha a função
gen-ai-lambda-stack-BedrockTestLambdaFunction-XXXXXXXXXXXX
. - No Code guia, escolha Test.
Você deverá ver a seguinte resposta da chamada de API do Amazon Bedrock (Status: bem-sucedido).
- Para negar acesso às APIs do Amazon Bedrock em endpoints VPC, navegue até o console do Amazon VPC.
- Debaixo Nuvem privada virtual no painel de navegação, escolha Pontos finais.
- Escolha sua política e navegue até o Guia de política.
Atualmente, a política do VPC endpoint está definida como Allow
.
- Para negar acesso, escolha Editar política.
- Mudar
Allow
paraDeny
e escolha Salvar.
Pode levar até dois minutos para que a política do VPC endpoint seja atualizada.
- Retorne à página da função Lambda e na página Code guia, escolha Test.
Conforme mostrado na captura de tela a seguir, a solicitação de acesso ao Amazon Bedrock pelo VPC endpoint foi negada (Status: Failed).
Por meio desse processo de teste, demonstramos como o tráfego da sua VPC para o endpoint da API Amazon Bedrock passa pela conexão PrivateLink e não pela conexão com a Internet.
limpar
Siga estas etapas para evitar incorrer em cobranças futuras:
Conclusão
Nesta postagem, demonstramos como configurar e operacionalizar uma conexão privada entre uma carga de trabalho generativa de IA implantada na VPC do seu cliente e o Amazon Bedrock usando um VPC endpoint de interface com tecnologia PrivateLink. Ao usar a arquitetura discutida nesta postagem, o tráfego entre o VPC do seu cliente e o Amazon Bedrock não sairá da rede Amazon, garantindo que seus dados não sejam expostos à Internet pública e, assim, ajudando com seus requisitos de conformidade.
Na próxima etapa, experimente a solução em sua conta e compartilhe seus comentários.
Sobre os autores
Carneiro Vital é arquiteto principal de soluções de ML na AWS. Ele tem mais de 3 décadas de experiência arquitetando e construindo aplicativos distribuídos, híbridos e em nuvem. Ele é apaixonado por criar soluções seguras e escaláveis de IA/ML e big data para ajudar clientes corporativos em sua jornada de adoção e otimização da nuvem para melhorar seus resultados de negócios. Nas horas vagas, ele anda de moto e caminha com seu Sheepadoodle de 3 anos!
Ray Khorsandi é especialista em IA/ML na AWS, oferecendo suporte a clientes estratégicos com práticas recomendadas de IA/ML. Com um M.Sc. e Ph.D. em Engenharia Elétrica e Ciência da Computação, ele lidera empresas na construção de soluções seguras e escaláveis de IA/ML e big data para otimizar a adoção da nuvem. Suas paixões incluem visão computacional, PNL, IA generativa e MLOps. Ray gosta de jogar futebol e passar bons momentos com a família.
Michael Daniels é especialista em IA/ML na AWS. Sua experiência reside na construção e liderança de soluções de IA/ML e IA generativa para problemas de negócios complexos e desafiadores, o que é aprimorado por seu doutorado. da Univ. do Texas e seu M.Sc. em Ciência da Computação, especialização em Aprendizado de Máquina pelo Georgia Institute of Technology. Ele se destaca na aplicação de tecnologias de nuvem de ponta para inovar, inspirar e transformar organizações líderes do setor, ao mesmo tempo que se comunica de forma eficaz com as partes interessadas em qualquer nível ou escala. Em seu tempo livre, você pode ver Michael esquiando ou praticando snowboard nas montanhas.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://aws.amazon.com/blogs/machine-learning/use-aws-privatelink-to-set-up-private-access-to-amazon-bedrock/
- :tem
- :é
- :não
- $UP
- 1
- 100
- 13
- 16
- 225
- 7
- 8
- 9
- 937
- a
- Sobre
- Acesso
- acessando
- Conta
- Açao Social
- ações
- atos
- acrescentando
- endereços
- Adoção
- AI
- AI / ML
- permitir
- permitidas
- permite
- tb
- Apesar
- Amazon
- Amazon EC2
- Amazon RDS
- Amazon Web Services
- an
- e
- Antrópico
- qualquer
- api
- APIs
- Aplicação
- aplicações
- Aplicando
- arquitetura
- SOMOS
- AS
- associado
- At
- aumentar
- aumentado
- aumentos
- disponibilidade
- disponível
- evitar
- AWS
- base
- baseado
- lado
- MELHOR
- melhores práticas
- entre
- Grande
- Big Data
- construir
- Prédio
- negócio
- by
- chamada
- chamadas
- CAN
- capacidades
- casas
- luta
- certo
- desafiante
- alterar
- Alterações
- acusações
- verificar
- Escolha
- Na nuvem
- adoção de nuvem
- Aplicativos em nuvem
- comunicar
- comunicação
- integrações
- compliance
- Computar
- computador
- Ciência da Computação
- Visão de Computador
- condição
- da conexão
- Conectividade
- cônsul
- conteúdo
- moderação de conteúdo
- contexto
- ao controle
- controles
- Responsabilidade
- Correspondente
- crio
- criado
- cria
- cliente
- Clientes
- personalizar
- ponta
- dados,
- banco de dados
- bases de dados
- décadas
- demonstrar
- demonstraram
- implantar
- implantado
- descrição
- desenvolver
- desenvolvedores
- diretamente
- discutido
- distribuído
- diferente
- do
- facilmente
- efeito
- efetivamente
- Engenharia elétrica
- permite
- final
- Ponto final
- Segurança de endpoint
- endpoints
- Engenharia
- aprimorada
- garantir
- assegurando
- Entrar
- Empreendimento
- clientes corporativos
- empresas
- estabelecer
- Éter (ETH)
- exemplo
- vasta experiência
- experimentar
- experiência
- exposto
- Exposição
- facilitar
- fracassado
- família
- Federação
- retornos
- Encontre
- firewall
- seguinte
- segue
- Escolha
- Foundation
- da
- totalmente
- função
- futuro
- porta de entrada
- gerar
- generativo
- IA generativa
- Georgia Institute of Technology
- ter
- dado
- vai
- Grupo
- Do grupo
- Ter
- he
- ajudar
- ajuda
- sua
- Como funciona o dobrador de carta de canal
- Como Negociar
- HTML
- http
- HTTPS
- HÍBRIDO
- IAM
- ID
- Identidade
- ids
- melhorar
- in
- incluir
- líder da indústria
- INFORMAÇÕES
- Infraestrutura
- inovar
- inovadores
- inspirar
- instância
- instâncias
- Instituto
- instruções
- integrar
- Interface
- Internet
- conexão de internet
- para dentro
- invoca
- IP
- Endereços IP
- IT
- viagem
- jpg
- Laboratório
- mais recente
- camada
- principal
- Leads
- aprendizagem
- mínimo
- Deixar
- esquerda
- Nível
- encontra-se
- LINK
- procurando
- máquina
- aprendizado de máquina
- fazer
- FAZ
- gerenciados
- gestão
- Posso..
- mecanismo
- Menu
- Michael
- minutos
- Mitigar
- ML
- MLOps
- modelo
- modelos
- moderação
- modificar
- motocicleta
- nome
- Navegar
- Navegação
- você merece...
- rede
- Próximo
- PNL
- nota
- of
- Oferece
- on
- só
- otimização
- Otimize
- or
- organizações
- originário
- Outros
- Fora
- resultados
- Acima de
- próprio
- página
- pão
- apaixonado
- permissões
- platão
- Inteligência de Dados Platão
- PlatãoData
- jogar
- políticas
- Privacidade
- Publique
- potencial
- alimentado
- práticas
- pré-requisitos
- anterior
- Diretor
- privado
- privilégio
- problemas
- processo
- Produto
- informações do produto
- proprietário
- proteção
- fornecer
- fornecido
- público
- fins
- qualidade
- consultas
- rapidamente
- alcance
- RAY
- Leia
- recebe
- solicitar
- Requisitos
- recurso
- Recursos
- resposta
- restringindo
- passeios
- Tipo
- papéis
- roteamento
- corrida
- SC
- escalável
- Escala
- Ciência
- sem problemas
- Pesquisar
- Seção
- seguro
- firmemente
- segurança
- Vejo
- separado
- Serverless
- serviço
- Serviços
- conjunto
- Partilhar
- rede de apoio social
- mostrando
- So
- futebol
- solução
- Soluções
- fonte
- especialista
- específico
- especificada
- Passar
- Estabilidade
- pilha
- partes interessadas
- começado
- Startups
- Declaração
- Status
- Passo
- Passos
- Estratégico
- sub-rede
- sub-redes
- tal
- Apoiar
- certo
- Tire
- Tecnologias
- Tecnologia
- modelo
- teste
- ensaio
- texas
- texto
- que
- A
- deles
- Eles
- então
- assim
- Este
- deles
- isto
- ameaça
- Através da
- tempo
- TLS
- para
- ferramentas
- tráfego
- Transformar
- tentar
- dois
- para
- até
- Atualizar
- usar
- caso de uso
- utilização
- VALIDAR
- vário
- versão
- via
- Ver
- Virtual
- visão
- anda
- queremos
- foi
- we
- web
- serviços web
- quando
- qual
- enquanto
- precisarão
- de
- sem
- de gestão de documentos
- yaml
- Você
- investimentos
- zefirnet
- zonas