Em colaboração com a Microsoft e a NVIDIA, integramos o NVIDIA NIM Microservices e o NVIDIA Agentiq Toolkit no Azure AI Foundry – sem precedentes de eficiência, desempenho e otimização de custos para seus projetos de IA.
Estou animado para compartilhar um grande salto adiante na maneira como desenvolvemos e implantamos a IA. Em colaboração com a NVIDIA, integramos o NVIDIA NIM Microservices e o NVIDIA Agentiq Toolkit no Azure AI Foundry– Encontrar eficiência, desempenho e otimização de custos sem precedentes para seus projetos de IA.
Uma nova period de eficiência de IA
No cenário digital acelerado de hoje, a escala de aplicativos de IA exige mais do que apenas inovação-é necessário processos simplificados que ofereçam tempo rápido, sem comprometer o desempenho. Com os projetos da IA corporativa geralmente levando de 9 a 12 meses para passar da concepção para a produção, todas as contagens de ganho de eficiência. Nossa integração foi projetada para alterar isso, simplificando todas as etapas do ciclo de vida de desenvolvimento da IA.
Nvidia nim na fundição do Azure AI
O NVIDIA NIM ™, parte do NVIDIA AI Enterprise Software program Suite, é um conjunto de microsserviços fáceis de usar projetados para a IA segura, confiável e de alto desempenho. Aproveitando tecnologias robustas como Nvidia Triton Inference Server ™, Tensorrt ™, Tensorrt-llm e Pytorch, os microsserviços NIM são construídos para escalar perfeitamente na computação gerenciada do Azure.
Eles fornecem:
- Implantação de configuração zero: Suba e funcionando rapidamente com a otimização pronta para uso.
- Integração sem costura do Azure: Funciona sem esforço com o Azure AI Agent Service e o kernel semântico.
- Confiabilidade da qualidade corporativa: Beneficie -se do suporte corporativo da NVIDIA AI para desempenho e segurança contínuos.
- Inferência escalável: Toque na infraestrutura acelerada da NVIDIA do Azure para exigir cargas de trabalho.
- Fluxos de trabalho otimizados: Acelere as aplicações que variam de grandes modelos de idiomas a análises avançadas.
A implantação desses serviços é simples. Com apenas alguns cliques-se selecionando modelos como o LLAMA-3.3-70B-NIM ou outros do catálogo de modelos na Foundry AI AI-, você pode integrá-los diretamente ao seu fluxo de trabalho de IA e começar a criar aplicativos generativos de IA que funcionam perfeitamente dentro do ecossistema do Azure.
Otimizando o desempenho com o NVIDIA Agentiq
Depois que seus microsserviços NVIDIA NIM são implantados, o NVIDIA Agentiq ocupa o centro do palco. Esse Package de ferramentas de código aberto foi projetado para conectar, perfil e otimizar perfeitamente as equipes de agentes de IA, permite que seus sistemas sejam executados no desempenho máximo. Agentiq entrega:
- Perfil e otimização: Aproveite a telemetria em tempo actual para ajustar o posicionamento do agente de IA, reduzindo a latência e calcule a sobrecarga.
- Aprimoramentos de inferência dinâmica: Colete e analise continuamente os metadados – como tokens de saída previstos por chamada, tempo estimado para a próxima inferência e comprimentos esperados para o token – para melhorar dinamicamente o desempenho do agente.
- Integração com kernel semântico: A integração direta com o Serviço de Agente de Fundição do Azure AI autoriza seus agentes com recursos aprimorados de raciocínio semântico e execução de tarefas.
Esse perfil inteligente não apenas reduz os custos de computação, mas também aumenta a precisão e a capacidade de resposta, para que todas as partes do seu fluxo de trabalho de IA agentic sejam otimizadas para o sucesso.
Além disso, em breve estaremos integrando o modelo de raciocínio de raciocínio aberto. A Razão Nemotron de Nvidia Llama é uma poderosa família de modelos de IA projetada para raciocínio avançado. De acordo com a NVIDIA, o Nemotron se destaca na codificação, matemática complexa e raciocínio científico, enquanto compreende a intenção do usuário e chamando ferramentas sem problemas, como pesquisa e traduções para realizar tarefas.
Impacto no mundo actual
Os líderes da indústria já estão testemunhando os benefícios dessas inovações.
Drew McCombs, vice -presidente de nuvem e análise da Epic, observou:
O lançamento dos microsserviços NVIDIA NIM na Azure AI Foundry oferece uma maneira segura e eficiente para a Epic implantar modelos generativos de IA de código aberto que melhoram o atendimento ao paciente, aumentam a eficiência clínica e a eficiência operacional e descubram novas idéias para impulsionar a inovação médica. Em colaboração com a UW Well being e a UC San Diego Well being, também estamos pesquisando métodos para avaliar os resumos clínicos com esses modelos avançados. Juntos, estamos usando a mais recente tecnologia de IA de maneiras que realmente melhoram a vida de médicos e pacientes.
A experiência da Epic ressalta como nossa solução integrada pode gerar mudanças transformacionais-não apenas na área da saúde, mas em todos os setores onde a IA de alto desempenho é um divisor de águas. Conforme observado por Jon Sigler, EVP, plataforma e IA no ServiceNow:
Essa combinação da plataforma de IA da ServiceNow com o serviço NVIDIA NIM e Microsoft Azure AI Foundry e Azure IA Agent nos ajuda a trazer para agentes de IA específicos para o setor de mercado, fornecendo agentes de IA de palha completa em soluções de IA para ajudar a resolver problemas mais rapidamente, proporcionando ótimas experiências de clientes e acelerar as melhorias nas organizações da produtividade das organizações.
Desbloqueie a inovação movida a IA
Ao combinar os recursos robustos de implantação da Nvidia NIM com a otimização dinâmica do NVIDIA Agentiq, o Azure AI Foundry fornece uma solução projetente para a construção, implantação e escala de aplicações Agentic Grad. Essa integração pode acelerar as implantações de IA, aprimorar os fluxos de trabalho agênticos e reduzir os custos de infraestrutura – abordando você a se concentrar no que realmente importa: impulsionar a inovação.
Pronto para acelerar sua jornada de IA?
Implantar microsserviços NVIDIA NIM e Otimize seus agentes de IA Com o NVIDIA Agentiq Toolkit Azure AI Foundry. Discover mais sobre a fundição do Azure Ai Modelo Catálogo.
Vamos construir um futuro mais inteligente, rápido e mais eficiente juntos.