As grandes empresas estão repensando a forma como executam cargas de trabalho de inteligência synthetic na nuvem. O Uber é um dos exemplos mais recentes, expandindo o uso de chips AWS para dar suporte aos seus sistemas de IA.
No centro dessa mudança estão os chips projetados pela AWS, como Graviton e Trainium. Reuters relata que a Uber está aumentando o uso de {hardware} para potencializar modelos de IA e sistemas de back-end para suas plataformas de transporte e entrega. Os modelos de IA da Uber funcionam em funções essenciais, como combinar passageiros e motoristas, estimar tempos de viagem, definir preços e gerenciar rotas de entrega de alimentos. Essas tarefas dependem de grandes volumes de dados e de atualizações constantes, o que pode aumentar os custos da nuvem.
Chips personalizados oferecem uma maneira de gerenciar a pressão sobre os preços. A AWS afirma que o Graviton pode melhorar o preço-desempenho em comparação com as instâncias tradicionais baseadas em x86, enquanto o Trainium foi projetado para reduzir os custos de treinamento. O {hardware} pode ajudar empresas como a Uber a executar mais tarefas de IA sem um aumento semelhante nos gastos.
Como os chips personalizados mudam o uso da nuvem
A decisão de explorar {hardware} alternativo está intimamente ligada à escala do Uber. A empresa opera em dezenas de países e processa milhões de transações todos os dias. Mesmo pequenos ganhos de eficiência podem ser importantes em uma rede desse tamanho.
De acordo com Reutersa Uber está usando chips AWS para melhorar as cargas de trabalho de treinamento e inferência. O treinamento refere-se a como os modelos de IA aprendem com os dados, enquanto a inferência é como esses modelos tomam decisões em sistemas ativos. Ambas as etapas podem ser caras, mas a inferência geralmente ocorre continuamente na produção, tornando a eficiência particularmente importante.
Chips como o Trainium são projetados para tarefas de aprendizado de máquina de alto rendimento, o que pode ajudar a minimizar o tempo e o custo necessários para treinar modelos. Graviton, que é construído na arquitetura ARM, é frequentemente usado para cargas de trabalho gerais que se beneficiam de menor consumo de energia e melhor controle de custos. Juntos, eles oferecem às empresas mais opções sobre como executar sistemas de IA na nuvem.
Equilibrando custo e flexibilidade
As estratégias de nuvem também estão mudando. As empresas estão assumindo um papel mais ativo na forma como as cargas de trabalho são estruturadas, desde a escolha de tipos de instância até o ajuste de modelos para determinados chips e o equilíbrio entre custos e desempenho.
Essa abordagem pode adicionar complexidade, no entanto. Os desenvolvedores precisam ajustar o software program para processadores baseados em ARM ou chips de IA especializados, e isso pode exigir uma coordenação mais estreita com os provedores de nuvem.
A mudança da Uber ocorre num momento em que as cargas de trabalho de IA estão se expandindo em muitos setores. Do setor financeiro ao varejo, as empresas estão usando o aprendizado de máquina para tarefas como detecção de fraudes, previsão de demanda e suporte ao cliente. À medida que esses sistemas crescem, aumenta também a necessidade de gerenciar os custos de operação deles.
O silício personalizado é uma resposta. Provedores de nuvem como a AWS estão construindo seus próprios processadores, o que lhes dá mais controle sobre preços e desempenho. Também levanta questões sobre flexibilidade. As empresas que constroem chips de nuvem específicos podem ter mais dificuldade para mover cargas de trabalho entre provedores.
O uso de chips AWS pela Uber mostra como essas compensações estão funcionando na prática. Em vez de abandonar a nuvem, a empresa está usando {hardware} de nuvem mais especializado. Reuters não detalha a escala exata da implantação do Uber, mas afirma que os chips suportam importantes funções orientadas por IA na plataforma.
O aumento dos custos da nuvem está forçando mais empresas a repensar a forma como executam as cargas de trabalho. Os chips personalizados podem não substituir a computação de uso geral, mas estão se tornando parte do combine.
A decisão da Uber reflete uma mudança mais ampla na forma como as empresas utilizam a nuvem. O foco está cada vez mais na execução de cargas de trabalho com mais eficiência. As empresas precisarão equilibrar custo e flexibilidade, e o silício personalizado provavelmente desempenhará um papel mais importante.
(Foto por Erik Mclean)
Veja também: Os custos da nuvem aumentam à medida que a IA se transfer para os principais sistemas empresariais
Quer aprender mais sobre Cloud Computing com os líderes do setor? Confira Segurança cibernética e exposição de nuvem acontecendo em Amsterdã, Califórnia e Londres. O evento abrangente faz parte TechEx e está localizado junto com outros eventos líderes de tecnologia, clique aqui para mais informações.
CloudTech Information é desenvolvido por Mídia TechForge. Discover outros eventos e webinars de tecnologia empresarial futuros aqui.