Aproveite o poder da expansão com a Cisco


A cada poucos anos, chega uma nova classe de carga de trabalho que quebra as suposições da geração anterior e nos obriga a repensar não apenas a arquitetura, mas a física subjacente de como os bits se movem. A IA generativa é um desses momentos.

O que torna este ponto de inflexão diferente é que não estamos apenas pedindo às redes que transportem mais tráfego. Estamos pedindo a eles que mantenham um ambiente de computação totalmente sincronizado e sensível à latência, que abranja vários knowledge facilities separados por dezenas ou centenas de quilômetros. Esse é um problema fundamentalmente novo, e resolvê-lo requer co-inovação em silício, sistemas e óptica de uma forma que a indústria nunca tentou antes.

Mais GPUs, mais inteligência

Há uma verdade simples e profunda no cerne da period da IA: mais GPUs liberam mais inteligência. Cada salto significativo na capacidade de IA nos últimos seis anos – desde modelos de linguagem que poderiam completar uma frase até sistemas que podem raciocinar, codificar e criar – foi impulsionado pelo treinamento em clusters maiores de GPUs. O dimensionamento de centenas de GPUs para centenas de milhares foi elementary para nos trazer até aqui.

Mas essa trajetória esbarrou numa dura parede física: o poder. Uma única GPU de alto desempenho consome 700 watts (W) ou mais em carga whole. Um rack de servidores GPU consome de 80 a 150 quilowatts (kW). Um cluster de formação suficientemente grande para desenvolver um modelo de IA de fronteira pode consumir 10 a 15 megawatts (MW), aproximadamente o equivalente à procura de electricidade de uma pequena cidade. E os modelos mais avançados treinados atualmente exigem clusters que se aproximem ou excedam 100 MW em um único native, representando 60.000 a 70.000 GPUs ou mais.

Nesta escala, o poder tornou-se a restrição vinculativa. A disponibilidade e o custo da energia em áreas densamente povoadas, combinados com a enorme magnitude da eletricidade necessária, significam que os maiores clusters de formação em IA ultrapassaram o que qualquer instalação pode suportar. Os knowledge facilities estão migrando para regiões menos populosas e com energia mais barata, tornando a interconexão de GPUs entre knowledge facilities um pré-requisito. Quando as GPUs necessárias para treinar a próxima geração de IA estão espalhadas por dois ou mais locais, a rede que as conecta deve funcionar como se estivessem na mesma sala. É por isso que existe a escala transversal.

A hierarquia da largura de banda: do DCI ao escalonamento

Para entender esse novo desafio, é útil acompanhar como os requisitos de largura de banda do knowledge heart evoluíram. Cada geração tem sido mais exigente em ordens de grandeza.

Interconexão de knowledge heart tradicional (DCI) definir a linha de base. DCI conectaré centros de dados para outros knowledge facilities e usuários finais em redes de longa distância. Isto foi desenvolvido para redundância, alcance geográfico e distribuição de carga de trabalho empresarial.

Redes front-end surgiu em seguida para lidar com o tráfego entre usuários, aplicativos e serviços em nuvem – streaming de vídeo, mídia social, aplicativos nativos da nuvem – com aproximadamente 7x a largura de banda do DCI.

A verdadeira mudança radical, redes de expansão, surgiu com a IA. À medida que os knowledge facilities passaram de computação de uso geral para potências de IA, os servidores padrão deram lugar a GPUs e aceleradores especializados. Dentro de um rack, esses dispositivos são interconectados em domínios de expansão com aproximadamente 504x a largura de banda do DCI – conectados por cobre de alta velocidade de 100 a 200 Gbps por pista em distâncias de até 3 metros (m), aparecendo para a pilha de software program como uma única unidade lógica de computação.

Redes escaláveis então estendeu a malha de IA por todo um knowledge heart, conectando racks de GPUs com aproximadamente 56x de largura de banda DCI por meio de malhas de comutação Ethernet de alta velocidade e InfiniBand. Uma vez que as distâncias crescem além de alguns metros– abrangendo fileiras de racks e andares de knowledge facilities em alcance de 100 metros a 2 quilômetros (km)cobre não pode mais manter qualidade do sinal nessas velocidades, e pcarregávelalgum . Como resultado, tecnologias como óptica co-embalada e óptica linear conectável surgiu para abordar as consequências de potência e densidade da implantação de óptica nesta escala.

E agora chegamos a escalara fronteira onde a física fica genuinamente difícil.

Rede escalonada: a promessa — e o desafio

A escalabilidade é a resposta para o problema da GPU distribuída geograficamente e não é simplesmente DCI com maior largura de banda. O DCI tradicional conecta CPUs entre knowledge facilities e usuários finais, lidando com muitos fluxos assíncronos, tolerantes a perdas e de baixa largura de banda que crescem linearmente. A escalabilidade horizontal conecta GPUs e redes escaláveis, transportando um pequeno número de fluxos de largura de banda extremamente alta, intolerantes a perdas, síncronos e de longa duração que não podem tolerar pacotes descartados ou incompatibilidades de tempo sem forçar uma reinicialização completa do trabalho de IA. E esses fluxos estão crescendo exponencialmente.

A diferença de escala por si só é impressionante. As redes escaláveis ​​exigem algo entre 12.000 e 32.000 portas – e o contexto deixa claro o porquê. Um knowledge heart de 100 MW abriga cerca de 60.000 a 70.000 GPUs, cada uma gerando até 800 Gbps de tráfego de back-end. Conectar essas GPUs em uma instalação já exige milhares de portas de alta velocidade; estender esse cluster para um segundo native – preservando ao mesmo tempo a latência determinística e o desempenho sem perdas de um trabalho de treinamento de IA ao vivo – requer milhares de portas ópticas mais coerentes na camada de escala. Em comparação, o DCI tradicional normalmente usa de 1.000 a 2.000 portas para lidar com o tráfego corporativo das mesmas duas instalações. Ambos usam óptica coerente em distâncias superiores a ten km e exigem segurança robusta. Mas a escala, as características do tráfego e as tolerâncias de desempenho estão numa categoria totalmente diferente.

As redes tradicionais sem perdas dependem do controle reativo de congestionamento, que enfrenta dificuldades em longas distâncias de fibra porque a velocidade da luz significa que cerca de 100 MB de dados estão em trânsito em um hyperlink de 100 km antes mesmo que o controle de fluxo possa responder, consumindo quase metade do buffer de um change moderno para uma única porta e prioridade. É por isso que roteadores com buffer profundo, e não switches, são a ferramenta certa aqui.

As cargas de trabalho de IA, no entanto, oferecem uma vantagem importante: são previsíveis o suficiente para possibilitar o controle proativo de congestionamento, orquestrando o tráfego para evitar o congestionamento antes que ele ocorra. Mas as falhas de hyperlink em escala são imprevisíveis e, quando acontecem, você também precisa de controle reativo com buffers profundos para absorver a interrupção sem forçar a reversão de todo o trabalho para um ponto de verificação e incorrer em despesas adicionais.

É aqui que o silício e a óptica coerente convergem em torno de um único imperativo: confiabilidade. Na escala do treinamento em IA, as falhas nos hyperlinks são inevitáveis. Uma única violação de segurança ou episódio de perda de pacotes pode apagar milhares de horas de trabalho da GPU. Segurança ponta a ponta baseada em {hardware}, buffer profundo para recuperação de falhas e controle proativo de congestionamento são agora apostas importantes. A confiabilidade é elementary para a infraestrutura convergente de IA da Cisco, incorporada em todas as camadas.

O poder como restrição e oportunidade definidoras

O poder tornou-se a lente através da qual cada decisão arquitetônica em redes de IA deve ser avaliada.

No nível do silício, a eficiência energética é o fator decisivo entre um roteador que é viável para escalabilidade de IA de alta densidade e outro que fica aquém.

No nível óptico, a mesma lógica se aplica, mas o desafio de energia aumenta à medida que a rede cresce. A óptica coerente conectável reduz o consumo de energia, eliminando transponders e óptica de cliente associada e permitindo conectividade direta entre roteadores. A energia liberada pode ser redirecionada para GPUs que proporcionam desempenho computacional. Mas conectáveis ​​coerentes resolvem apenas parte do problema. À medida que as implantações escaláveis ​​crescem de milhares de portas coerentes para dezenas de milhares, a infraestrutura de fibra que conecta esses knowledge facilities deve ser dimensionada em paralelo. Mais portas significam mais conexões de fibra, e mais conexões de fibra significam mais capacidade de amplificação óptica ao longo dessas rotas. Cada um desses locais de amplificação consome energia própria. O resultado é um desafio energético bilateral: os ganhos de eficiência dentro do knowledge heart, na interface óptica do roteador, devem ser acompanhados por ganhos de eficiência ao longo da planta de fibra que os conecta. Encontrar o equilíbrio certo entre desempenho e potência em todos os pontos da rede é hoje um problema de engenharia de primeira ordem.

A implicação é clara: a escala transversal não pode ser projetada otimizando o silício e a óptica de forma independente. Eles devem ser co-projetados desde o início.

Como a Cisco está convergindo silício e óptica em soluções escaláveis

Na Cisco, há anos que construímos essa convergência. A combinação dos sistemas de roteamento alimentados pelo Cisco Silicon One e portfólio óptico coerente oferece uma abordagem integrada projetada especificamente para atender às demandas escalonadas:

Cisco Silício Um: Cisco Silício Um P200 poderes Cisco 8223e sistemas para umn líder do setor 51.2 Tbps capacidade, adaptada para cargas de trabalho de IA distribuídas. o previsão de crescimento esperado de Cisco Pedidos de IA no quarto trimestre fiscal de 2026 paramais do que 6 bilhão. sistemas convergem roteamento e switching com impressionante poder eficiência, programabilidade e segurança, permitindo hiperescaladores, neoclouds, e ésoberano calto para com confiança arquitetar ambientes de IA geograficamente distribuídos.

Aproveite o poder da expansão com a CiscoAproveite o poder da expansão com a Cisco

Figura 1.

Módulos coerentes: A Cisco é líder em participação de mercado coerente e pioneira em plugáveis ​​coerentes. 400G ZR/ZR+ e 800G ZR/ZR+ conectáveis ​​coerentes já estão sendo implantados em redes escaláveis, com mais de 750.000 portas DSP 400G enviado e mais de 40.000 portas DSP 800G enviadas. O largo Cisco O portfólio conectável coerente suporta os padrões maduros definidos por OIF, OpenROADM e OpenZR+ que permitiram a adoção em massa de óptica baseada em roteador.

Uma imagem do Cisco QSFP-DD 800G ZR/ZR+ coerente plugável, um dispositivo fino, prateado e retangularUma imagem do Cisco QSFP-DD 800G ZR/ZR+ coerente plugável, um dispositivo fino, prateado e retangular

Figura 2. Cisco QSFP-DD 800G ZR/ZR+ conectável coerente

Texto alternativo conectável coerente Cisco QSFP-DD 800G ZR/ZR+: uma imagem do conectável coerente Cisco QSFP-DD 800G ZR/ZR+, um dispositivo fino, prateado e retangular.Texto alternativo conectável coerente Cisco QSFP-DD 800G ZR/ZR+: uma imagem do conectável coerente Cisco QSFP-DD 800G ZR/ZR+, um dispositivo fino, prateado e retangular.

Figura 3. Cisco OSFP 800G ZR/ZR+ conectável coerente

Sistemas de linha aberta: A Cisco oferece duas opções para os clientes, dependendo do caso de uso:

  • O novo Sistema de linha aberta Cisco Open Transport 3000 Sequence oferece uma arquitetura multi-rail que permite que vários pares de fibras operem em paralelo para poder lidar com tráfego de vários petabits em longas distâncias. Ele também suporta comprimentos de onda de banda C e banda L, otimizando potência, espaço e escalabilidade para escalabilidade entre redes.
  • O Sistema de linha aberta metropolitana Cisco NCS 1014 oferece visibilidade óptica e controle aprimorados que permitem implantações conectáveis ​​coerentes em escala em escala metropolitana em casos de uso. Isso inclui sonda coerente integrada, equalização de ganho dinâmico, OTDR e monitoramento de potência espectral que simplificam a implantação e operação de óptica coerente que é desagregada dos sistemas de linha.

Juntos, esses recursos formam um portfólio escalável criado especificamente para a confiabilidade, eficiência energética e escalabilidade que os operadores de infraestrutura de IA exigem.

O que vem a seguir para escalabilidade

A period da escalabilidade ainda é precoce. NAs redes que impulsionarão a próxima geração de inteligência de IA devem ser projetadas em conjuntodesde o DSP coerente e a integração fotônica na camada óptica, passando pelo silício e sua arquitetura de buffer, até o envelope térmico e de energia no nível do sistema que determina o que é realmente implantável em hiperescala.

Na Cisco, é exatamente assim que estamos abordando a escalabilidade. Os sistemas adaptativos Cisco Silicon One e o portfólio óptico coerente são projetados em estreita colaboração interna e com nossos clientes para atender às demandas específicas de escalabilidade. À medida que a IA continua a sua trajetória exponencial, estas tecnologias serão a chave para desbloquear novos níveis de inteligência e permitir a próxima geração de infraestruturas de IA.

Explorar Cisco Silício Umuma arquitetura de rede unificada escalável e programável

Recursos adicionais

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *