1
O crescimento da IA é cada vez mais limitado não pelos chips, mas pela infraestrutura, desde o armazenamento de dados e a procura de energia até aos estrangulamentos de conectividade. À medida que os knowledge facilities se expandem, o elo mais fraco muda, ameaçando limitar a escala e o desempenho futuros da IA.
As empresas fronteiriças de IA estão trabalhando com exabytes – bilhões de gigabytes – de dados para treinar modelos e executar inferências em tempo actual, e precisam de um lugar para armazenar tudo isso.
Isto está impulsionando um aumento astronômico no desenvolvimento de knowledge facilities nos Estados Unidos, com mais de 1.500 projetos agora em preparação. Se construídos, o número de knowledge facilities operacionais nos EUA duplicaria. Mesmo isso dificilmente satisfaria as necessidades da IA. A McKinsey estima que a procura world por capacidade de armazenamento de dados poderá triplicar até 2030, com aproximadamente 70% provenientes de cargas de trabalho de IA.
Cada uma dessas instalações abriga inúmeras fileiras de servidores que exigem grandes quantidades de eletricidade para funcionar, e sistemas de resfriamento igualmente exigentes em energia, projetados para gerenciar o calor gerado.
Coletivamente, as demandas de energia destes projetos propostos totalizam 780 gigawatts de eletricidade. Para colocar isto em perspectiva, se todos estes planos fossem aprovados, mais do que duplicaria a pressão precise sobre a rede eléctrica dos EUA.
Muitas vezes vemos o progresso da IA como uma corrida computacional. Quem tem os chips para construir, treinar e operar os modelos mais avançados? Na realidade, trata-se de uma corrida infra-estrutural e o ecossistema continua aquém da ambição.
O problema energético da IA
Constrangidos pelas pressões locais e pelo escrutínio regulamentar, apenas 25% desses projetos provavelmente se concretizarão. A rede não entrará em colapso repentino sob uma tensão que não possa suportar. No entanto, com o consumo em servidores de alto desempenho usados para IA crescendo em 30% anualmente, e com prazos de entrega de infraestrutura energética muito mais lentos do que a construção de centros de dados, chegará um ponto em que um défice de energia interromperá o crescimento no espaço da IA.
Como resultado, já estamos vendo os prazos de construção ficarem atrasados. A construção de um novo knowledge middle, que costumava levar seis meses, agora leva até 18 meses. E conectá-los à rede atualmente leva cinco às sete anos.
Dada a escala destas instalações, as redes locais precisam de expandir a sua infraestrutura com transformadores, disjuntores, cabos e muito mais antes de poderem colocá-las on-line com segurança. Planejar e revisar mudanças pode levar anos. Da mesma forma, o aumento da procura, juntamente com a escassez de mão-de-obra qualificada, fez com que os prazos de aquisição disparassem. A fabricação de transformadores de alta tensão, que antes levava seis meses, agora leva oito vezes mais tempo.
À medida que a escassez de energia aumenta, sem meios para aumentar a capacidade rapidamente e em grande escala, a oferta e a procura entram em jogo. Em áreas próximas dos centros de dados, os custos grossistas de electricidade aumentaram tanto 267% nos últimos cinco anos.
À medida que a IA se desenvolve, a sua principal restrição não será a computação ou os centros de dados que a suportam, mas a infra-estrutura que a alimenta.
Gargalo de conectividade
Os knowledge facilities exigem energia para ficarem on-line, mas é a conectividade que os torna operacionais.
Grande parte da demanda de conectividade da IA é invisível para os usuários finais. Embora a inferência em tempo actual e o tráfego de API exijam redes de menor latência, uma proporção significativa do tráfego de IA consiste na movimentação de enormes volumes de dados entre clusters de GPU, sistemas de armazenamento e knowledge facilities distribuídos geograficamente. Os operadores também devem sincronizar modelos, replicar conjuntos de dados para obter resiliência e distribuir atualizações globalmente.
Essas cargas de trabalho são menos sensíveis à latência, mas impõem enormes demandas à capacidade da rede, criando um tipo diferente de gargalo à medida que a infraestrutura de IA é dimensionada.
Além do treinamento de back-end e das cargas de trabalho de replicação, as plataformas de IA também devem oferecer suporte ao tráfego contínuo voltado para o usuário e operacional. Solicitações de inferência, chamadas de API, telemetria, registro em log, backups e distribuição de modelos contribuem para fluxos sustentados de dados de alta capacidade em redes globais.
Juntos, eles estão criando pressão sobre as redes de maneiras muito diferentes: uma impulsionada pela enorme demanda por largura de banda, a outra pela capacidade de resposta e pela baixa latência.
Tráfego orientado por IA quase triplicou só no ano passado e continua a crescer oito vezes mais rápido do que outro tráfego. Da mesma forma, à medida que os consumidores e as empresas adotam a IA em escala, espera-se que o consumo de tokens – as unidades de dados processados por um modelo de IA durante o treinamento e a inferência – cresça. em 2.300% até 2030.
Redes confiáveis e de alta capacidade são essenciais para movimentar esses grandes volumes de dados. Se falharem, o treinamento ficará mais lento e a inferência ficará atrasada. Embora o foco esteja justamente na preparação da infraestrutura energética, o ecossistema de telecomunicações enfrenta uma pressão semelhante para aumentar a escala. Sem investimento na espinha dorsal da conectividade, mesmo que seja encontrada uma solução para as restrições energéticas da IA, o estrangulamento da rede continuará a limitar a sua expansão.
Capitalizando na IA
A principal tarefa dos provedores de serviços de rede é preparar uma infraestrutura operacional, resiliente e conectada – e ela deveria estar pronta ontem. Embora a IA tenha acelerado a procura, o aumento do tráfego não é um desafio novo para a indústria. Os serviços digitais, das redes sociais ao streaming de vídeo, têm impulsionado constantemente as redes para melhorar há anos. Posteriormente, os fornecedores mais bem posicionados para apoiar a IA são aqueles que já adaptaram, ampliaram a capacidade e prepararam as suas redes para o futuro.
Dito isto, permanecem claras oportunidades de crescimento para o sector das redes. Mais da metade dos tomadores de decisão em knowledge facilities esperam que a IA coloque uma pressão significativa na infraestrutura de interconexão nos próximos anos, impulsionando a demanda por conexões com uso intenso de fibra que ligam vários centros, permitindo que grandes volumes de dados sejam compartilhados perfeitamente entre eles.
Da mesma forma, a edge computing está a emergir como uma extensão pure do ecossistema de armazenamento de dados, deslocando o processamento para mais perto do native onde os dados são gerados e consumidos para reduzir a latência. Do AWS Wavelength ao Google Distributed Cloud Edge, os hiperescaladores estão recorrendo às empresas de telecomunicações para fornecer conectividade e permitir a implantação de borda.
Estas oportunidades, no entanto, não serão distribuídas uniformemente. Aqueles capazes de dar suporte a essas demandas serão os provedores de serviços de rede ágeis, dispostos e capazes de escalar rapidamente. As operações tradicionais, rígidas e de reação lenta, por outro lado, terão dificuldade em recuperar terreno.
Acompanhando a demanda
O crescimento da IA não dependerá da ambição demonstrada, mas da velocidade a que a infraestrutura subjacente possa ser construída. Em última análise, será tão forte quanto o seu elo mais fraco.
Ontem, essa restrição eram os chips. Hoje é poder. E amanhã – sem investimento contínuo em redes resilientes e de alta capacidade construídas para lidar com o crescimento exponencial projetado nos fluxos de dados impulsionados pela IA – será a conectividade.
Tony é CEO de um provedor de serviços de rede world RETN. Ele é basic na estratégia de preços, interconexão e rede da empresa e gosta de ter um envolvimento muito ativo em todos os outros aspectos do negócio para compreender verdadeiramente quaisquer pressões e problemas dentro da empresa. Tony é contador da FCCA. Ele ingressou na RETN em 2007 e foi inicialmente encarregado de estabelecer a presença da RETN no mercado da Europa Ocidental. Tony assumiu um papel de liderança na expansão da RETN de uma transportadora multinacional que vende em 2 países para um participant pan-europeu. Em 2016 assumiu o cargo de Diretor de Operações, transformando a cadeia de fornecimento, preços e estratégia operacional da empresa, mudando-se para Hong Kong em 2017 para estabelecer com sucesso as operações asiáticas da empresa, transformando-a na rede euro-asiática que é hoje. Ele assumiu whole responsabilidade como CEO no início de 2021.