 |
Hoje, tenho o prazer de anunciar a nova personalização sem servidor em IA do Amazon SageMaker para modelos populares de IA, como Amazônia Nova, DeepSeek, GPT-OSS, Lhamae Qwen. O novo recurso de personalização fornece uma interface fácil de usar para as mais recentes técnicas de ajuste fino, como aprendizado por reforço, para que você possa acelerar o processo de personalização do modelo de IA de meses para dias.
Com apenas alguns cliques, você pode selecionar perfeitamente um modelo e uma técnica de personalização, além de lidar com a avaliação e a implantação do modelo, tudo totalmente sem servidor, para que você possa se concentrar no ajuste do modelo em vez de no gerenciamento da infraestrutura. Quando você escolhe a personalização sem servidor, o SageMaker AI seleciona e provisiona automaticamente os recursos de computação apropriados com base no modelo e no tamanho dos dados.
Primeiros passos com a personalização do modelo sem servidor
Você pode começar a personalizar modelos em Estúdio Amazon SageMaker. Escolher Modelos no painel de navegação esquerdo e confira seus modelos de IA favoritos para serem personalizados.
Personalize com UI
Você pode personalizar modelos de IA com apenas alguns cliques. No Personalizar modelo lista suspensa para um modelo específico, como Instrução Meta Llama 3.1 8Bescolher Personalize com UI.
Você pode selecionar uma técnica de customização usada para adaptar o modelo base ao seu caso de uso. SageMaker AI suporta Ajuste fino supervisionado e as mais recentes técnicas de personalização de modelos, incluindo Otimização de preferência direta, Aprendizagem por reforço de recompensas verificáveis (RLVR)e Aprendizagem por reforço com suggestions de IA (RLAIF). Cada técnica otimiza modelos de maneiras diferentes, com seleção influenciada por fatores como tamanho e qualidade do conjunto de dados, recursos computacionais disponíveis, tarefa em questão, níveis de precisão desejados e restrições de implantação.
Carregue ou selecione um conjunto de dados de treinamento que corresponda ao formato exigido pela técnica de personalização selecionada. Use os valores de tamanho do lote, taxa de aprendizagem e número de épocas recomendados pela técnica selecionada. Você pode definir configurações avançadas, como hiperparâmetros, um aplicativo MLflow sem servidor recentemente introduzido para rastreamento de experimentos e criptografia de quantity de rede e armazenamento. Escolher Enviar para começar seu trabalho de treinamento de modelo.
Depois que seu trabalho de treinamento for concluído, você poderá ver os modelos criados no Meus modelos guia. Escolher Ver detalhes em um de seus modelos.
Ao escolher Continuar personalizaçãovocê pode continuar a personalizar seu modelo ajustando hiperparâmetros ou treinando com diferentes técnicas. Ao escolher Avaliarvocê poderá avaliar seu modelo customizado para ver seu desempenho em comparação com o modelo base.
Ao concluir os dois trabalhos, você pode escolher o SageMaker ou Base rochosa no Implantar lista suspensa para implantar seu modelo.
Você pode escolher Base Amazônica para inferência sem servidor. Escolher Base rochosa e o nome do modelo para implantar o modelo no Amazon Bedrock. Para encontrar seus modelos implantados, escolha Modelos importados no Console rochoso.
Você também pode implantar seu modelo em um endpoint de inferência do SageMaker AI se quiser controlar seus recursos de implantação, como tipo de instância e contagem de instâncias. Depois que a implantação do SageMaker AI for Em serviçovocê poderá usar esse endpoint para realizar inferência. No Parque infantil guia, você pode testar seu modelo personalizado com um único immediate ou modo de bate-papo.
Com o recurso MLflow sem servidor, você pode registrar automaticamente todas as métricas críticas do experimento sem modificar o código e acessar visualizações avançadas para análises adicionais.
Personalize com código
Ao escolher a personalização com código, você pode ver um pocket book de amostra para ajustar ou implantar modelos de IA. Se quiser editar o pocket book de exemplo, abra-o no JupyterLab. Como alternativa, você pode implantar o modelo imediatamente escolhendo Implantar.
Você pode escolher o endpoint Amazon Bedrock ou SageMaker AI selecionando os recursos de implantação em Inferência do Amazon SageMaker ou Hiperpod Amazon SageMaker.
Quando você escolhe Implantar no canto inferior direito da página, ele será redirecionado de volta para a página de detalhes do modelo. Depois que a implantação do SageMaker AI estiver em serviço, você poderá usar esse endpoint para realizar inferência.
Okay, você viu como agilizar a personalização do modelo no SageMaker AI. Agora você pode escolher sua maneira favorita. Para saber mais, visite o Guia do desenvolvedor de IA do Amazon SageMaker.
Agora disponível
Nova personalização do modelo de IA sem servidor no Amazon SageMaker AI agora está disponível nas regiões Leste dos EUA (Norte da Virgínia), Oeste dos EUA (Oregon), Ásia-Pacífico (Tóquio) e Europa (Irlanda). Você paga apenas pelos tokens processados durante o treinamento e inferência. Para saber mais detalhes, visite Página de definição de preço do Amazon SageMaker AI.
Experimente Estúdio Amazon SageMaker e envie comentários para AWS re:Put up para SageMaker ou por meio de seus contatos habituais do AWS Assist.
– Channy