 |
Hoje estamos apresentando Mercado Amazon Bedrockum novo recurso que dá acesso a mais de 100 aplicativos populares, emergentes e especializados modelos de fundação (FMs) através Base Amazônica. Com este lançamento agora você pode descobrir testar e implantar novos modelos de fornecedores empresariais como IBM e Nvidia modelos especializados como Photo voltaic Professional da Upstages para processamento de idioma coreano e ESM3 da Evolutionary Scale para pesquisa de proteínas juntamente com Amazon Bedrock general- finalidade FMs de fornecedores como Antrópico e meta.
Os modelos implantados com o Amazon Bedrock Market podem ser acessados por meio das mesmas APIs padrão dos modelos sem servidor e, para modelos compatíveis com a API Converse, podem ser usados com ferramentas como Agentes Amazon Bedrock e Bases de conhecimento da Amazon Bedrock.
Como IA generativa continua a remodelar a forma como as organizações funcionam, a necessidade de modelos especializados otimizados para domínios, linguagens ou tarefas específicas está crescendo. No entanto, encontrar e avaliar estes modelos pode ser desafiador e dispendioso. Você precisa descobri-los em diferentes serviços, criar abstrações para usá-los em seus aplicativos e criar camadas complexas de segurança e governança. O Amazon Bedrock Market aborda esses desafios fornecendo uma interface única para acessar FMs especializados e de uso geral.
Usando o Amazon Bedrock Market
Para começar, no console Amazon Bedrock, escolho Catálogo de modelos no Modelos de fundação seção do painel de navegação. Aqui, posso pesquisar modelos que me ajudem em um caso de uso ou linguagem específica. Os resultados da pesquisa incluem modelos sem servidor e modelos disponíveis no Amazon Bedrock Market. Posso filtrar resultados por provedor, modalidade (como texto, imagem ou áudio) ou tarefa (como classificação ou resumo de texto).
No catálogo estão modelos de organizações como Arcee IAque constrói modelos de linguagem pequena adaptados ao contexto (SLMs), e Widn.AIque fornece modelos multilíngues.
Por exemplo, estou interessado no Granito IBM modelos e pesquise modelos de Dados e IA da IBM.
eu seleciono Granito 3.0 2B Instruirum modelo de linguagem projetado para aplicativos corporativos. A escolha do modelo abre a página de detalhes do modelo, onde posso ver mais informações do provedor do modelo, como destaques sobre o modelo, preços e uso, incluindo exemplos de chamadas de API.
Este modelo específico requer uma assinatura, e eu escolho Ver opções de assinatura.
Na caixa de diálogo de assinatura, reviso os preços e as notas legais. Em Detalhes de preçosvejo o preço do software program definido pelo fornecedor. Para este modelo, não há custos adicionais além da infraestrutura implantada. O Amazon Sage Maker o custo da infraestrutura é cobrado à parte e pode ser visto em Preços do Amazon SageMaker.
Para prosseguir com este modelo, escolho Inscrever-se.
Após a conclusão da assinatura, o que geralmente leva alguns minutos, posso implantar o modelo. Para Detalhes de implantaçãouso as configurações padrão e o tipo de instância recomendado.
Eu expando o opcional Configurações avançadas. Aqui, posso optar por implantar em um nuvem privada digital (VPC) ou especifique o AWS Identification and Entry Administration (IAM) função de serviço usada pela implantação. O Amazon Bedrock Market cria automaticamente uma função de serviço para acessar Serviço de armazenamento simples da Amazon (Amazon S3) buckets onde os pesos do modelo são armazenados, mas posso optar por usar uma função existente.
Mantenho os valores padrão e concluo a implantação.
Após alguns minutos, a implantação é Em serviço e pode ser revisado no Implantações de mercado página do painel de navegação.
Lá, posso escolher um endpoint para visualizar detalhes e editar a configuração, como o número de instâncias. Para testar a implantação, eu escolho Aberto no playground e peça um pouco de poesia.
Também posso selecionar o modelo no Bate-papo/texto página do Parque infantil usando o novo Mercado categoria onde os endpoints implantados estão listados.
De forma semelhante, posso usar o modelo com outras ferramentas, como Agentes Amazon Bedrock, Bases de conhecimento da Amazon Bedrock, Gerenciamento de prompts do Amazon Bedrock, Guarda-corpos de rocha amazônicae avaliações de modeloescolhendo Selecione o modelo e selecionando o Mercado ponto remaining do modelo.
O modelo que usei aqui é texto para texto, mas posso usar o Amazon Bedrock Market para implantar modelos com diferentes modalidades. Por exemplo, depois de implantar IA de estabilidade Difusão Estável 3,5 Grandeposso fazer um teste rápido no Amazon Bedrock Parque de imagens.
Os modelos que implantei agora estão disponíveis através do API Amazon Bedrock InvokeModel. Quando um modelo é implantado, posso usá-lo com o Interface de linha de comando da AWS (AWS CLI) e qualquer SDKs da AWS usando o ponto remaining Nome de recurso da Amazon (ARN) como ID do modelo.
Para modelos de texto para texto ajustados por chat, também posso usar o API Amazon Bedrock Converseque abstrai as diferenças de modelo e permite a troca de modelo com uma única alteração de parâmetro.
Coisas para saber
Mercado Amazon Bedrock está disponível nos seguintes Regiões da AWS: Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Oregon), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Seul), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Tóquio) , Canadá (Central), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris) e América do Sul (São Paulo).
Com o Amazon Bedrock Market, você paga uma taxa de software program ao provedor de modelo terceirizado (que pode ser zero, como no exemplo anterior) e uma taxa de hospedagem com base no tipo e número de instâncias escolhidas para os endpoints do modelo.
Comece a navegar pelos novos modelos usando o Catálogo de modelos no console Amazon Bedrockvisite o Documentação do Amazon Bedrock Markete envie comentários para AWS re:Submit para Amazon Bedrock. Você pode encontrar conteúdo técnico aprofundado e descobrir como nossas comunidades Builder estão usando o Amazon Bedrock em comunidade.aws.
– Danilo