Amazon Bedrock apresenta nova ferramenta avançada de otimização e migração de prompts

Hoje estamos anunciando Otimização avançada de prompts do Amazon Bedrockuma nova ferramenta que você pode usar para otimizar seus prompts para qualquer modelo em Base Amazônicaenquanto compara seus prompts originais com prompts otimizados em até 5 modelos simultaneamente. Com a nova otimização imediata, você pode migrar para um novo modelo ou melhorar o desempenho do modelo atual. Você pode testá-los para garantir que não vejam regressões em casos de uso conhecidos e também para melhorar tarefas de baixo desempenho.

O novo otimizador de immediate leva em seu modelo de immediate, exemplos de entradas do usuário para os valores das variáveis, respostas verdadeiras e uma métrica de avaliação para usar como guia. Você pode até usar isso com entradas de usuário multimodais – ele suporta png, jpge pdf como entradas para seus modelos de immediate para que você possa otimizar os prompts para tarefas como análise de documentos e imagens.

Você também pode fornecer um AWS Lambda função, rubrica LLM como juiz ou uma breve descrição em linguagem pure para orientar a otimização. O otimizador de immediate funciona em um ciclo de suggestions baseado em métricas para otimizar o immediate e as respostas do modelo resultante para a métrica de avaliação e gera os modelos de immediate originais e finais com pontuações de avaliação, estimativas de custo e latência.

Bedrock Superior Immediate Optimization em ação

Para começar com a nova otimização de immediate, escolha Criar otimização imediata no Otimização avançada de prompts página de Console Amazon Bedrock.

Escolha até 5 modelos de inferência para otimizar seus prompts. Você pode usar isso se estiver migrando para um novo modelo ou apenas quiser obter melhor desempenho no modelo atual. Se estiver alterando modelos, você poderá selecionar seu modelo atual como linha de base e até quatro outros modelos. Se você não estiver alterando os modelos, basta selecionar o modelo atual para ver antes e depois da otimização.

Você deve preparar seus modelos de immediate no formato JSONL com exemplos de dados do usuário, respostas verdadeiras e uma métrica de avaliação ou orientação de reescrita. Para .jsonl arquivos, cada objeto JSON deve estar em uma única linha.

{
    "model": "bedrock-2026-05-14",           // required; Mounted worth
    "templateId": "string",                    // required
    "promptTemplate": "string",                // required
    "steeringCriteria": ("string"),            // non-obligatory
    "customEvaluationMetricLabel": "string",   // required if customLLMJConfig or evaluationMetricLambdaArn is used
    "customLLMJConfig": {                      // non-obligatory
        "customLLMJPrompt": "string",          // required if customLLMJConfig current
        "customLLMJModelId": "string"          // required if customLLMJConfig current
    },
    "evaluationMetricLambdaArn": "string",     // non-obligatory
    "evaluationSamples": (                     // required
        {
            "inputVariables": (                // required
                {
                    "variableName1": "string",
                    "variableName2": "string"
                }
            ),
            "referenceResponse": "string"      // non-obligatory
            "inputVariablesMultimodal": (      // non-obligatory
                {
                "Arbitrary_Name": {            // required on your multimodal variable.
                    "sort": "string",          // select from "PDF" or "IMAGE". Acceptable filetypes for IMAGE = png, jpg,  
                    "s3Uri": "string"          // enter the S3 path of the file
                }
            )
        }
    )
}

Você pode fazer add de arquivos diretamente ou importar modelos de immediate de Serviço de armazenamento simples da Amazon (Amazon S3) e defina um native de saída S3 onde os resultados de otimização imediata e os dados de avaliação serão armazenados. Então, escolha Criar otimização.

O Amazon Bedrock envia automaticamente seus modelos de immediate e dados de exemplo com informações básicas opcionais para seus modelos de inferência, avalia as respostas com sua métrica de avaliação e, em seguida, reescreve o immediate em um ciclo de suggestions para otimizá-lo para seus modelos de inferência. Você verá os resultados da avaliação com base na métrica fornecida e nas solicitações finais otimizadas.

Como você observou, você pode avaliar a qualidade do immediate de três maneiras: uma função Lambda com sua própria lógica de pontuação Python, LLM como juiz com uma rubrica personalizada ou critérios de orientação de linguagem pure. Você pode escolher apenas um por modelo de immediate, mas pode criar vários modelos de immediate em uma tarefa, para que possam usar um método diferente para cada modelo de immediate, se desejarem.

• Função lambda — Se você tiver uma métrica concreta (precisão, F1, precisão de execução, correspondência JSON estruturada and so forth.), poderá implantar uma função Lambda contendo sua lógica de pontuação personalizada e configurar evaluationMetricS3Uri campo do modelo de immediate. Dentro do Lambda, o núcleo é uma implementação computacional que compara programaticamente as saídas do modelo com as respostas de referência.
• LLM como juiz — Se sua tarefa for aberta (resumo, geração, explicações de raciocínio) e você quiser uma pontuação baseada em rubricas, poderá configurar o arquivo de configuração do S3 no arquivo customLLMJConfig campo do modelo de immediate para definir métricas nomeadas com instruções estruturadas e uma escala de classificação. Um modelo de juiz Bedrock avalia cada par de resposta imediata e retorna uma pontuação com raciocínio. O modelo padrão é Claude Sonnet 4.6 e você também pode selecionar o seu próprio em uma lista de modelos de juízes.
• Critérios de direção — Se você conhece as qualidades que deseja (voz da marca, formato, restrições de segurança), mas não deseja criar uma solicitação completa do juiz, você pode definir critérios no conjunto de dados de entrada por meio do steeringCriteria matriz do modelo de immediate. Em vez de métricas estruturadas com escalas de avaliação, você fornece critérios de linguagem pure de formato livre que o juiz do LLM avalia de forma holística. Se você usar esta opção, um immediate padrão do LLM como juiz avaliará as respostas e incorporará seus critérios de orientação ao immediate do juiz. O modelo de juiz neste caso é o Antrópico Claude Sonnet 4.6.

Para saber mais sobre como usar a otimização e migração avançada de immediate, visite o otimização avançada de immediate em Bedrock guia e o exemplos de códigos no Github.

Agora disponível

O Amazon Bedrock Superior Immediate Optimization está disponível hoje nas regiões Leste dos EUA (Norte da Virgínia, Ohio), Oeste dos EUA (Oregon), Ásia-Pacífico (Mumbai, Seul, Cingapura, Sydney, Tóquio), Canadá (Central), Europa (Frankfurt, Irlanda, Londres, Zurique) e América do Sul (São Paulo). Você é cobrado com base nos tokens de inferência do modelo Bedrock consumidos durante a otimização, nas mesmas taxas por token da inferência Bedrock regular. Para saber mais, visite o Preços do Amazon Bedrock página.

Experimente a otimização avançada de immediate no Console Amazon Bedrock ou com CreateAdvancedPromptOptimizationJob API hoje e envie comentários para AWS re:Submit para Amazon Bedrock ou por meio de seus contatos habituais do AWS Help.

– Channy