NVIDIA lançou hoje os chips T3000 e T2000 baseados em Thor, visando a robótica do mercado de massa e implantação de IA de ponta.
Para empresas de robótica que comparam silício personalizado com plataformas prontas para uso, o cálculo agora inclui um conjunto de módulos da arquitetura Thor construídos para as restrições de custo e energia que acompanham a execução de modelos básicos fora de um knowledge middle.
A família Jetson AGX Thor da NVIDIA já faz parte de programas humanóides e de robôs móveis na 1X, Agile Robots, Amazon Robotics, Boston Dynamics, FANUC, Hitachi e Techman Robotic, de acordo com a empresa. O T3000 e o T2000 estendem essa linha para baixo, oferecendo dimensões menores e limites de memória mais baixos, visando o ponto em que os programas de robótica fazem a transição de frotas piloto para decisões de compra tomadas em grande quantity.
Densidade computacional contra um orçamento de energia cada vez menor
O T3000 oferece 865 teraflops FP4 de computação AI em um pacote que a NVIDIA descreve como tendo aproximadamente metade do tamanho e consumo de energia de seu módulo T5000 existente. A placa emparelha uma GPU NVIDIA Blackwell com uma CPU Neoverse Arm de oito núcleos, 32 GB de memória LPDDR5X, 273 GB/s de largura de banda de memória e conectividade de 25 GbE.
Uma variante orientada para a segurança, IGX T3000, corresponde a esse valor computacional ao mesmo tempo em que adiciona segurança funcional integrada e executa a pilha Halos for Robotics da NVIDIA, destinada a máquinas que operam próximas a pessoas.
A NVIDIA afirma que, apesar do tamanho menor, o T3000 corresponde ao desempenho de inferência do T5000 em cargas de trabalho multimodais, incluindo grandes modelos de linguagem, modelos de linguagem de visão, modelos de ação de linguagem de visão e modelos de base mundial. A empresa enquadra o módulo como uma alavanca de custos contra o aumento do preço da memória, embora a pilha de segurança em si não elimine o trabalho de conformidade que se segue
Correndo Halos para Robótica fornece ao integrador uma estrutura para operação próxima ao ser humano; certificar que um robô específico em uma instalação específica atende às regulamentações de segurança locais e assumir a responsabilidade caso isso não aconteça, continua sendo um trabalho para o fabricante e o comprador, não para a NVIDIA.
O T2000 fica abaixo do T3000 na pilha da NVIDIA, oferecendo 400 teraflops FP4 e 16 GB de memória. A NVIDIA o posiciona como um ponto de entrada para desenvolvedores que criam agentes visuais de IA, robôs móveis autônomos e manipuladores industriais onde a especificação T3000 completa não é necessária ou acessível.
Combinada com o resto da linha Jetson, a empresa agora reivindica uma plataforma que abrange 70 TOPS até 2.000 teraflops, que permite aos desenvolvedores lidar com a maioria das cargas de trabalho de IA de ponta a partir de uma única base de software program, em vez de reestruturar para cada classe de dispositivo.
As reivindicações de otimização de memória chegam junto com o novo silício
Juntamente com o {hardware}, a NVIDIA lançou o que chama de habilidades de agente Jetson: ferramentas automatizadas destinadas a otimizar a configuração e implantação de memória em seu portfólio Jetson, incluindo Thor e a linha Orin mais antiga. A empresa relata que as ferramentas permitem que os desenvolvedores obtenham economia de memória em dias, em vez de semanas, e vários clientes nomeados respaldam essa afirmação com seus próprios números.
A UBTech e a Agile Robots – trabalhando em conjunto com o provedor de soluções industriais Join Tech – reduziram o uso de memória em até 15 GB, de acordo com a NVIDIA, passando do módulo Jetson AGX Orin de 64 GB para a configuração de 32 GB.
SandStar relata uma redução de 4 GB em uma implantação de varejo inteligente, o suficiente para rodar em um módulo Orin NX de 8 GB em vez de 16 GB. GROOVE X, fabricante do robô companheiro LOVOT, diz que usou os aceleradores heterogêneos de IA da Jetson para redistribuir a carga de trabalho e pousar em uma configuração com menos memória sem citar uma figura específica. Enquanto isso, o NoTraffic relata uma redução de 30% na memória do Jetson TX2 NX em sua plataforma de tráfego inteligente, liberando capacidade para recursos adicionais de IA em vez de uma placa menor.
Esses são números relatados por fornecedores de parceiros nomeados, o que os coloca um passo acima das afirmações de advertising and marketing não atribuídas. No entanto, ainda são números gerados em execuções controladas de otimização, em vez de números auditados de forma independente, extraídos de meses de operação em campo.
O espaço de memória medido em relação a uma carga de trabalho conhecida em um laboratório difere do espaço de memória em uma implantação ao vivo que lida com conectividade intermitente, desvio de firmware em uma frota ou dados de sensor que chegam atrasados ou incompletos. As empresas que avaliam um downgrade de SKU com base nesses números devem esperar seu próprio ciclo de validação antes de comprometer os orçamentos de aquisição para um nível de memória menor.
Cosmos 3 Edge coloca um modelo básico diretamente no módulo
A NVIDIA também expandiu seu Cosmos 3 família de modelos de fundação de mundo aberto com uma versão específica de borda compatível com as plataformas Thor. O Cosmos 3 Edge funciona com quatro bilhões de parâmetros e foi desenvolvido para permitir que sistemas incorporados interpretem seus arredores, raciocinem sobre essas informações em tempo actual e gerem ou prevejam ações por meio de inferência no dispositivo, em vez de uma viagem de ida e volta para a nuvem.
Usando a estrutura aberta do Cosmos, a NVIDIA diz que os desenvolvedores podem pós-treinar o modelo para um corpo de robô específico e conjunto de sensor em cerca de um dia, um número que a empresa considera como preenchendo a lacuna entre o treinamento de simulação e o desempenho no mundo actual. Essa linha do tempo descreve a própria etapa pós-treinamento; validar a política resultante em relação ao ambiente operacional actual de um robô é um exercício separado e que determina se o modelo funciona fora das condições para as quais foi ajustado.
Como o T3000 e o T2000 compartilham a arquitetura de chips e a pilha de software program com o restante da família Thor, a NVIDIA está abrindo um caminho de desenvolvimento antes da disponibilidade física. Os desenvolvedores podem começar a desenvolver agora o equipment de desenvolvedor Jetson AGX Thor existente, vendido por meio de parceiros de canal, e emular o desempenho do T3000 e T2000 em software program.
O modo de emulação T3000 chega este mês com JetPack 7.2.1; A emulação T2000 segue em uma versão posterior que a NVIDIA ainda não knowledge. Os próprios módulos estão programados para serem enviados no primeiro trimestre de 2027, o que leva mais de um ano entre o anúncio e o {hardware} físico chegar aos clientes.
Parceiros de {hardware} incluindo ADLINK, Advantech, AAEON, Aetina, Auvidea, AVerMedia, Join Tech, ForeCR, JWIPC, NEXCOM Robotic Options, Realtimes, Seeed Studio, Twowin, TZTEK e YUAN já constroem sistemas baseados em Thor e provavelmente adicionarão placas T3000 e T2000 aos seus catálogos.
Os parceiros de software program Antmicro, Neurealm, REBOTNIX e RidgeRun são nomeados como fornecedores de emulação e suporte de migração para clientes que movem o código existente para os novos módulos. Se essa migração será tão direta quanto sugere o argumento da arquitetura compartilhada, dependerá de quanto da pilha de software program de uma determinada implantação foi ajustada em relação à largura de banda da memória T5000 e às restrições de geração do Orin em primeiro lugar.
As empresas que planejam a knowledge de lançamento no primeiro trimestre de 2027 têm cerca de um ano para executar o trabalho de migração por meio de emulação antes que o silício actual chegue.
Veja também: RoboLab expande avaliação de políticas de robôs além das taxas de sucesso
Quer saber mais sobre a IoT com os líderes do setor? Confira Exposição de tecnologia IoT acontecendo em Amsterdã, Califórnia e Londres. O evento abrangente faz parte TechEx e está co-localizado com outros eventos de tecnologia líderes, incluindo Expo IA e Massive Information e o Expo Segurança Cibernética. Clique aqui para mais informações.
IoT Information é alimentado por Mídia TechForge. Discover outros eventos e webinars de tecnologia empresarial futuros aqui.