A Nvidia lançou uma ferramenta que, espera, tornará o aprendizado de máquina e a inteligência synthetic em seus processadores gráficos mais acessíveis: Tripy, um entrance -end pitônico do ecossistema de tensorrt da empresa.
“O Tripy é um entrance -end degable e pitônico para Tensorrt, um compilador de inferência de aprendizado profundo”, escreve a empresa sobre seu lançamento antecipado. “O que você pode esperar: alto desempenho, alavancando os recursos de otimização da Tensorrt; uma API intuitiva (interface de programação de aplicativos) que segue as convenções do ecossistema; depuração com recursos como o modo ansioso para depurar interativamente os erros; excelentes mensagens de erro que são informativas e acionáveis; amigável; amigável; amigável; documentação que é abrangente, mas concisa, com exemplos de código “.
A NVIDIA está procurando trazer os benefícios de Tensorrt para os pythonistas com tripy, disponível em um lançamento de testes antecipados agora. (📷: nvidia)
As últimas gerações de processadores gráficos da NVIDIA estão se afastando da geração de imagens e para o aprendizado de máquina e a inteligência synthetic (ML e a IA)-adicionando núcleos de tensores dedicados, juntamente com os núcleos de CUDA de propósito geral e núcleos RT específicos para raytraading. Para fazer o melhor uso deles, a NVIDIA lançou a Tensorrt – um ecossistema que inclui um compilador projetado para otimizar os modelos de rede neural para o melhor desempenho nas GPUs da NVIDIA.
Agora, essas mesmas vantagens estão disponíveis para desenvolvedores usados para trabalhar em Python by way of Tripy – um entrance -end para o Tensorrt. Usando o Tripy, os desenvolvedores podem usar o Python 3 para definir modelos, inicializá -los, executá -los e compilá -los para melhorar o desempenho. O front-end também inclui suporte para quantização pós-treinamento, um processo pelo qual um modelo é dimensionado para uma precisão mais baixa, a fim de aumentar o desempenho ou adicionar compatibilidade para o {hardware} inferior.
Disponível no github Agora, como parte do repositório experimental da Tensorrt Incubator, o Tripy está no momento da redação marcada como versão 0.0.10 – sugerindo que ainda não está pronta para uso da produção. O código -fonte é disponibilizado sob a licença permissiva do Apache 2.0.