À medida que as cargas de trabalho de IA se fragmentam no espaço fragmentado da infraestrutura de nuvem, as empresas lutam para manter o desempenho, a governança e os custos sob controle. A Equinix avalia que a resposta está em hubs de interconexão neutros que simplificam o acesso de última milha, orquestram a infraestrutura distribuída e aproximam a inferência dos usuários.
Em suma – o que saber:
IA distribuída – Cargas de trabalho de treinamento, inferência e agentes estão forçando as empresas a configurações complexas de múltiplas nuvens e colocando redes de interconexão, spine e acesso sob pressão.
Tecido neutro – A Equinix propõe uma estrutura de última milha para conectar filiais a hubs de nuvem e uma estrutura de hub para fornecer uma plataforma neutra para gerenciar IA entre fornecedores de infraestrutura.
Inferência de borda – Embora a formação permaneça centralizada, cargas de trabalho crescentes de agentes e de inferência estão a transferir-se para as cidades, aumentando a importância da interconexão e da governação.
Escrevemos sobre isso ontem, brevemente, no topo do boletim informativo – sobre como a IA está consumindo o information middle e como as redes estão sob risco. A infraestrutura central de nuvem está oscilando sob o peso de cargas de trabalho em espiral e sendo distribuída de leste a oeste em remansos regionais em busca de energia, e de norte a sul em centros metropolitanos e instalações empresariais, em uma busca urgente para colocar a IA para funcionar. De repente, as empresas estão reunindo treinamento em uma nuvem, inferência em outra e agentes na borda – tudo isso sem quebrar os orçamentos de desempenho. É por isso que as redes são mais importantes do que nunca. Então aqui está o remix de 12 polegadas, conforme dito a RCR pelo provedor de information middle dos EUA Equinix.
A conversa surge após alguns anúncios de notícias recentes da empresa: um serviço de acesso de última milha (Tecido Equinix), anunciada em janeiro, e uma plataforma de neutralidade relacionada (Hub de IA Distribuído), anunciado ontem (11 de março). O objetivo de ambos é simplificar o mercado de computação em nuvem/edge, que se fragmenta rapidamente, à medida que os acordos de fornecimento se multiplicam e as cargas de trabalho aumentam em cascata – seja para garantir a escassa nova capacidade de GPU para treinamento ou para atender a novos e difíceis requisitos de inferência. A solução de última milha foi projetada para resolver problemas de cobertura e contrato com fornecedores de telecomunicações, principalmente em filiais empresariais, agregando e automatizando serviços de conectividade native.
A outra apresenta uma “estrutura unificada” para navegar no “labirinto de silos” que está a ser erguido pelo amplo ecossistema de IA à medida que a sua tecnologia se transformou, a sua aplicação se multiplicou e a sua infra-estrutura explodiu e se dispersou. “A IA não é centralizada – mas a infraestrutura certa pode fazê-la funcionar tão perfeitamente como se fosse.” Essa é a frase em seu comunicado à imprensa; a ideia da Equinix é que sempre foi um fornecedor neutro, alojando e transferindo dados empresariais de e para grandes nuvens públicas de hiperescala, conforme necessário – e agora também, durante pelo menos 12 meses, para um grupo de construtores de modelos de fronteira e um enxame de neonuvens especializadas.
A teoria é que a proposta de ‘estrutura’ faz com que a última milha de telecomunicações se comporte mais como um serviço tradicional de nuvem em hiperescala, rápido de encontrar e fácil de implantar; a estrutura central faz o mesmo, de forma eficaz, com a grande dificuldade de manejo do ecossistema de IA em desenvolvimento, de modo que a infraestrutura fragmentada se une – e assim a Equinix pode reforçar sua posição de neutralidade. Arun Dev, vice-presidente de interconexão digital da Equinix, está no fim da linha e explica ambos. O processo para uma empresa classificar manualmente a conectividade de última milha com uma empresa de telecomunicações – para um escritório em Omaha, Nebraska, por exemplo – “pode levar meses”, diz ele. A Equinix atende 77 centros metropolitanos, mas não Omaha – diretamente, pelo menos.
Agregador de rede
A empresa precisa de uma solução native para obter acesso à rede de computação distribuída – muito possivelmente em uma instalação ao longo do “beco do information middle” em Ashburn, Virgínia. “Você pode configurar a conectividade em nuvem em minutos com habilidades básicas. É a isso que as empresas estão acostumadas. E então elas têm que lidar com um provedor de rede, e a cotação, o pedido e o provisionamento levam semanas ou meses”, diz Dev.
“Eles configuraram a nuvem e estão aguardando essas etapas extras. É muito atrito – de Omaha a Ashburn, a uma carga de trabalho na AWS (em Ashburn)”. Como tal, a Equinix está trabalhando com uma plataforma agregadora da Resolute CS para automatizar o fluxo de telecomunicações de última milha – com empresas como AT&T, Lumen, T-Cellular, Verizon, Zayo (nos EUA).
“Todos os principais fornecedores estão na plataforma. Insira um endereço em Edimburgo e ele mostrará as transportadoras locais e automatizará cotações e pedidos. Assim, podemos atender os clientes onde eles estão, em qualquer lugar – e simplificar essa experiência (de última milha) para eles.” O sistema processou um “grande número de cotações” até agora, desde janeiro; “a maioria” na APAC e na Europa, diz ele.
A Equinix também está construindo integrações primárias mais estreitas com operadoras em seus “principais mercados” – portanto, uma empresa pode escolher a BT no Reino Unido, digamos, para “ir do escritório para a nuvem, de ponta a ponta – sem o agregador”. Mas mesmo para a AWS em Ashburn, a proposta é convergir para uma instalação native da Equinix, como um hub de interconexão neutro.
Qual é a razão por trás de seu outro anúncio, ontem. A mesma lógica, âmbito mais alargado – que as empresas estão a distribuir cargas de trabalho por infra-estruturas fragmentadas: públicas e privadas, abertas e fechadas, internacionais e nacionais, centrais e locais. Fora da rede de acesso paroquial, o desafio é a visibilidade e o controle de toda a peça – em torno do fluxo de dados, quantidade de vazamento, carga de conformidade, aplicação de proteções. No closing das contas, o impacto whole sobre os custos em uma arquitetura de dados tão fluida é difícil de gerenciar. “Você sabe sobre shadow IT”, diz ele. “Bem, a IA sombria é actual.” Ainda se trata de redes; apenas mais sobre a orquestração entre eles.
A Equinix chama sua proposta de hub de “native neutro que permite às empresas descobrir, conectar-se e consumir infraestrutura de IA – incluindo (de) empresas modelo, nuvens GPU, plataformas de dados, serviços de rede e segurança”. Eles são entregues “tudo por meio de conectividade privada e de baixa latência” em seus (280) information facilities, afirma. Dev não fala muito sobre essa “(inter)conectividade de baixa latência” – do tipo fornecido em sistemas de spine de fibra programável, conforme discutido nestas páginas recentemente na cobertura de Verizon, Cisco, Nokia, Lúmen, Cienaalém de todas as coisas de PTC – exceto para dizer que os mesmos fornecedores da sua plataforma agregadora estão “nas nossas instalações”.
Conceito de neutralidade
Exceto também que a rede está mais crítica do que nunca. “É aí que entram as nossas parcerias profundas com prestadores de serviços”, diz ele. Mas a estrutura do hub trata de forma mais ampla sobre como a infraestrutura é governada e orquestrada – usando seus information facilities e estrutura de rede como um ponto de controle para cargas de trabalho de IA distribuídas. Sua primeira integração é com a Palo Alto Networks (Prisma AI) sobre governança e segurança em sistemas distribuídos; mais seguirão ao longo do ano. Os mercados de hiperescala direcionam as empresas para ferramentas de hiperescala; a estrutura da Equinix é neutra em relação ao fornecedor, dando aos clientes liberdade para compor sua pilha de IA – o que eles estão sendo forçados a fazer de qualquer maneira, argumenta Dev.
“A escassez de GPU significa que eles seguem o fornecimento, através de uma neonuvem ou outro hiperescalador. Portanto, sua carga de trabalho está na nuvem A e seus recursos de GPU estão na nuvem B”, diz ele. Vale ressaltar que o conceito de neutralidade é baseado na ideia de que as empresas atendem aos hiperescaladores em instalações compartilhadas. Amazon Net Companies (AWS), Microsoft Azure, Oracle Cloud Infrastructure (OCI) e Google Cloud (GCP) mantêm a infraestrutura nos information facilities da Equinix em todas as suas 77 paradas de metrô “na rampa” – portanto, uma carga útil específica através de um hyperlink de última milha em Omaha é adequadamente direcionada em Ashburn, de acordo com a turma de trabalho. Mais de 40% das rampas de acesso à nuvem globais estão nas instalações da Equinix, diz Dev.
Ele continua: “Isso impulsiona esse requisito para fazer a infraestrutura distribuída funcionar. Porque sua carga de trabalho é dividida entre locais. E se todos os seus dados estiverem na nuvem A e toda a sua computação estiver na nuvem B, então você está movendo dados de um lado para outro e será atingido por velocidades de saída em ambos os lados. Portanto, as empresas decidiram que a melhor coisa é ter seus dados em um native neutro e usar a computação em A e o fluxo de trabalho em B por meio da peça de interconexão. Quero dizer, essa é toda a evolução nos últimos 10 anos: passar de onde tudo mudou para a nuvem pública, para colocar a carga de trabalho certa no lugar certo, agravada pela escassez de GPUs – e, agora, descobrir como fazer isso funcionar.”
Mas não se trata apenas da escassez de GPU em sistemas de interconexão leste-oeste para cargas de trabalho de treinamento; Os agentes de IA estão migrando de norte a sul para a borda para tarefas de inferência, forçando também as empresas a procurar locais metropolitanos de host neutro. A empresa de análise IDC estima que 80% das empresas implementarão infraestruturas de ponta distribuídas para melhorar a latência e a capacidade de resposta das aplicações de IA já em 2027; Omdia diz que os projetos de IA de agência terão um crescimento anual de 175% (CAGR) até 2029. “Os clientes dizem: ‘Ei, ótimo, fiz meu treinamento, mas minha inferência está no limite metropolitano’”, diz Dev.
Borda metropolitana
Sabemos que é onde a Equinix está – em 77 “principais mercados metropolitanos”, diz Dev. Ele continua: “Temos uma presença padronizada em todo o mundo. Nossa presença de co-localização em Cingapura é a mesma em Ashburn, Frankfurt, em todos os lugares”. Da mesma forma, as empresas não são obrigadas a instalar infra-estruturas físicas para se expandirem para novas regiões. “Temos uma pilha virtualizada. Portanto, nem sempre é necessário implantar equipamentos físicos”, diz ele. “Se você quiser expandir para a Índia, por exemplo, poderá implantar nossos recursos virtuais em Mumbai. Você terá a mesma experiência que obtém em Ashburn e Londres.” Especialmente para cargas de trabalho de inferência, as empresas estão cada vez mais implantando infraestrutura digital em mercados metropolitanos, em vez de enviar equipamentos para todos os locais.
A soberania dos dados, ampliada por uma geopolítica arriscada, também contribui para esta gestão desordenada da IA. A Equinix oferece orientação “consciente da jurisdição” para que o tráfego em serviços virtuais e rotas de colocation permaneça dentro das fronteiras. “Podemos manter todo o tráfego no Canadá, digamos, para que nada vá para os EUA.” Regra geral, as empresas mantêm as suas maiores implementações físicas em centros como Ashburn ou Londres, enquanto utilizam funções de rede digital – firewalls, routers, conectividade na nuvem de empresas como Palo Alto Networks, Cisco, Juniper Networks, Zscaler, entre outras – para se estenderem a mercados mais difíceis de alcançar. “Um grande banco dos EUA começou a funcionar com uma configuração digital em Mumbai em menos de uma semana”, diz ele.
A questão de onde os agentes de IA irão fixar residência não está resolvida. “Todas as opções acima”, diz Dev, quando apresentado a todas as paradas no continuum nuvem-borda. Por enquanto, depende do provedor de serviços e de onde seus recursos estão distribuídos. “Anthropic funciona onde Anthropic funciona; um modelo LLaMA aberto pode ser implantado no native; a Mistral AI encaminhará o tráfego através de seus locais na França. É por isso que a complexidade do fluxo de tráfego explodiu – em comparação com o cenário de 10 anos atrás.” Mas os prestadores de serviços de IA também seguirão a ciência, em última análise, regendo o equilíbrio tripartido entre requisitos de aplicação, inovação tecnológica e viabilidade da infra-estrutura.
Mas a lógica é clara: a formação em modelos em grande escala poderá permanecer altamente centralizada (“pode fazer toda a sua formação no Oeste do Texas, onde há explorações agrícolas e nada mais”), mas as cargas de trabalho de inferência aproximar-se-ão da acção – em sistemas de fábrica, aplicações de retalho, serviços financeiros com tempos de resposta mais rigorosos. A presença metropolitana da Equinix – inclusive em novos países como Tailândia, Malásia e Indonésia – apoia a mudança, diz Dev.
Ele completa: “Costumava ser simples: chegar ao seu co-localização Equinix, chegar à AWS, chegar ao Azure. Foi isso. Agora eu tenho uma instância LLaMA, Anthropic ali, meu próprio modelo aqui, uma fábrica em outro lugar. Como você tem visibilidade? Como você constrói conectividade? Esse tráfego de agentes está aumentando significativamente – norte-sul, alguns leste-oeste. Essas são solicitações menores, mas há muitas delas. A complexidade se multiplicou significativamente.”