Deepseek-R1 agora disponível como um modelo sem servidor totalmente gerenciado na Amazon Bedrock

Em 30 de janeiro, os modelos Deepseek-R1 se tornaram Disponível na Amazon Bedrock através do Amazon Bedrock Market e Importação de modelo personalizada da Amazon Bedrock. Desde então, milhares de clientes implantaram esses modelos na Amazon Bedrock. Os clientes valorizam os robustos e ferramentas abrangentes para a implantação segura da IA. Hoje, estamos tornando ainda mais fácil de usar Deepseek na Amazon Bedrock Através de uma gama expandida de opções, incluindo uma nova solução sem servidor.

O modelo Deepseek-R1 totalmente gerenciado agora está geralmente disponível no Amazon Bedrock. Amazon Internet Companies (AWS) é o primeiro provedor de serviços em nuvem (CSP) a entregar Deepseek-R1 como um modelo totalmente gerenciado e geralmente disponível. Você pode acelerar a inovação e gerar valor comercial tangível com a Deepseek na AWS sem precisar gerenciar complexidades de infraestrutura. Você pode alimentar seu AI generativa Aplicações com os recursos da DeepSeek-R1 usando um API único No serviço totalmente gerenciado da Amazon Bedrock e obtenha o benefício de seus extensos recursos e ferramentas.

De acordo com Deepseekseu modelo está disponível ao público sob licença do MIT e oferece recursos fortes em raciocínio, codificação e entendimento de linguagem pure. Esses recursos, suporte à decisão inteligente do poder, desenvolvimento de software program, resolução de problemas matemáticos, análise científica, insights de dados e sistemas abrangentes de gerenciamento de conhecimento.

Como é o caso de todas as soluções de IA, considere cuidadosamente os requisitos de privacidade de dados ao implementar em seus ambientes de produção, verifique se há viés na saída e monitore seus resultados. Ao implementar modelos publicamente disponíveis como Deepseek-R1, considere o seguinte:

• Segurança de dados – Você pode acessar o Segurança de nível corporativomonitoramento e controle de custos dos recursos da Amazon Bedrock que são essenciais para implantando IA com responsabilidade em escalaenquanto mantém o controle completo sobre seus dados. As entradas e saídas de modelo dos usuários não são compartilhados com nenhum provedor de modelos. Você pode usar estes Principais recursos de segurança Por padrão, incluindo criptografia de dados em repouso e em trânsito, controles de acesso de granulação fina, opções de conectividade segura e obtain várias certificações de conformidade Enquanto se comunica com o modelo Deepseek-R1 na Amazon Bedrock.
• AI responsável – Você pode implementar salvaguardas personalizadas para seus requisitos de aplicativo e políticas de IA responsáveis ​​com Amazon Bedrock Guardrails. Isso inclui os principais recursos da filtragem de conteúdo, filtragem de informações confidenciais e controles de segurança personalizáveis ​​para evitar alucinações usando fundamento contextual e Verificações de raciocínio automatizadas. Isso significa que você pode controlar a interação entre os usuários e o modelo Deepseek-R1 no Bedrock com o conjunto de políticas definido, filtrando conteúdo indesejável e prejudicial em seus aplicativos de IA generativos.
• Avaliação do modelo -Você pode avaliar e comparar modelos para identificar o modelo ultimate para o seu caso de uso, incluindo Deepseek-R1, em algumas etapas através de avaliações automáticas ou humanas usando Ferramentas de avaliação do modelo de rock da Amazon. Você pode escolher avaliação automática com métricas predefinidas, como precisão, robustez e toxicidade. Como alternativa, você pode escolher fluxos de trabalho de avaliação humana para métricas subjetivas ou personalizadas, como relevância, estilo e alinhamento à voz da marca. A avaliação do modelo fornece conjuntos de dados com curadoria embutidos ou você pode trazer seus próprios conjuntos de dados.

Recomendamos fortemente integrar a Amazon Bedrock Guardrails e usar os recursos de avaliação do modelo Amazon Bedrock com o seu modelo Deepseek-R1 para adicionar proteção robusta aos seus aplicativos generativos de IA. Para saber mais, visite Proteja suas implantações de modelo Deepseek com Amazon Bedrock Guardrails e Avalie o desempenho dos recursos da Amazon Bedrock.

Comece com o modelo Deepseek-R1 na Amazon Bedrock
Se você é novo em usar modelos Deepseek-R1, vá para o Console da Amazon Bedrockescolher Acesso ao modelo sob Configurações de rocha No painel de navegação esquerda. Para acessar o modelo Deepseek-R1 totalmente gerenciado, solicite acesso a Deepseek-r1 em Deepseek. Você terá acesso ao modelo na Amazon Bedrock.

Em seguida, para testar o modelo Deepseek-R1 na Amazon Bedrock, escolha Bate -papo/texto sob Playgrounds No painel do menu esquerdo. Em seguida, escolha Selecione Modelo no canto superior esquerdo e selecione Deepseek como a categoria e Deepseek-r1 como modelo. Em seguida, escolha Aplicar.

Usando o selecionado Deepseek-r1 Modelo, eu corro o seguinte exemplo de pronta

A household has $5,000 to save lots of for his or her trip subsequent 12 months. They will place the cash in a financial savings account incomes 2% curiosity yearly or in a certificates of deposit incomes 4% curiosity yearly however with no entry to the funds till the holiday. In the event that they want $1,000 for emergency bills in the course of the 12 months, how ought to they divide their cash between the 2 choices to maximise their trip fund?

Este immediate requer uma cadeia complexa de pensamento e produz resultados de raciocínio muito precisos.

Para saber mais sobre as recomendações de uso para instruções, consulte o Leia o modelo Deepseek-R1 em seu repositório do GitHub.

Escolhendo Visualize solicitação da APIvocê também pode acessar o modelo usando exemplos de código no Interface da linha de comando da AWS (AWS CLI) e AWS SDK. Você pode usar us.deepseek.r1-v1:0 como o ID do modelo.

Aqui está uma amostra do comando da AWS CLI:

aws bedrock-runtime invoke-model 
     --model-id us.deepseek-r1-v1:0 
     --body "{"messages":({"position":"consumer","content material":({"sort":"textual content","textual content":"(n"})}),max_tokens":2000,"temperature":0.6,"top_k":250,"top_p":0.9,"stop_sequences":("nnHuman:")}" 
     --cli-binary-format raw-in-base64-out 
     --region us-west-2 
     invoke-model-output.txt

O modelo suporta o InvokeModel e Converse API. Os seguintes exemplos de código python mostram como enviar uma mensagem de texto para o modelo Deepseek-R1 usando o API Amazon Bedrock Converse para geração de texto.

import boto3
from botocore.exceptions import ClientError

# Create a Bedrock Runtime consumer within the AWS Area you need to use.
consumer = boto3.consumer("bedrock-runtime", region_name="us-west-2")

# Set the mannequin ID, e.g., Llama 3 8b Instruct.
model_id = "us.deepseek.r1-v1:0"

# Begin a dialog with the consumer message.
user_message = "Describe the aim of a 'howdy world' program in a single line."
dialog = (
    {
        "position": "consumer",
        "content material": ({"textual content": user_message}),
    }
)

strive:
    # Ship the message to the mannequin, utilizing a fundamental inference configuration.
    response = consumer.converse(
        modelId=model_id,
        messages=dialog,
        inferenceConfig={"maxTokens": 2000, "temperature": 0.6, "topP": 0.9},
    )

    # Extract and print the response textual content.
    response_text = response("output")("message")("content material")(0)("textual content")
    print(response_text)

besides (ClientError, Exception) as e:
    print(f"ERROR: Cannot invoke '{model_id}'. Motive: {e}")
    exit(1)

Para ativar a Amazon Bedrock Guardrails no modelo Deepseek-R1, selecione Guardrails sob Salvaguardas No painel de navegação esquerda, e crie um corrimão configurando o maior número possível de filtros. Por exemplo, se você filtrar a palavra “política”, seus corrimãos reconhecerão essa palavra no immediate e mostrarão a mensagem bloqueada.

Você pode testar o corrimão com diferentes insumos para avaliar o desempenho do Guardrail. Você pode refinar o corrimão definindo tópicos negados, filtros de palavras, filtros de informações confidenciais e mensagens bloqueadas até que ela atenda às suas necessidades.

Para saber mais sobre a Amazon Bedrock Guardrails, visite Pare o conteúdo prejudicial em modelos usando o Amazon Bedrock Guardrails na documentação da AWS ou outro Postagens de weblog Deep Dive sobre a Amazon Bedrock Guardrails no canal do weblog de aprendizado de máquina da AWS.

Aqui está um Passo a passo da demonstração Destacando como você pode tirar proveito do modelo Deepseek-R1 totalmente gerenciado na Amazon Bedrock:

Agora disponível
O Deepseek-R1 já está disponível totalmente gerenciado na Amazon Bedrock, nos EUA, leste (N. Virginia), EUA leste (Ohio) e Regiões da AWS do West (Oregon) nos EUA através Inferência de região cruzada. Verifique o Lista de região completa Para atualizações futuras. Para saber mais, confira o Página do produto Amazon Bedrock e o Página de preços da Amazon Bedrock.

Experimente o modelo Deepseek-R1 no Console da Amazon Bedrock hoje e envie suggestions para AWS Re: Put up for Amazon Bedrock ou através de seus contatos habituais de suporte da AWS.

– Canal

Atualizado em 10 de março de 2025 – Capturas de tela fixas de seleção de modelo e ID do modelo.