Escapando da Matrix: IA e cabos submarinos

Estamos agora a passar da ficção científica para a realidade com o lançamento de muitos serviços de IA que estão preparados para transformar indústrias e remodelar a nossa vida quotidiana.

Embora os knowledge facilities estejam se expandindo rapidamente para dar suporte aos requisitos de IA, há menos clareza sobre como a IA pode impactar a infraestrutura de rede de longa distância, especialmente os cabos submarinos.

Foi exatamente nisso que me aprofundei durante minha palestra em Redes Submarinas Mundial 2024.

Nesta apresentação, analisei três grandes questões:

1. Qual o tamanho dos conjuntos e modelos de dados de treinamento de IA?

Para compreender o impacto potencial da IA ​​nos cabos submarinos, devemos considerar o tamanho dos dados e modelos de treinamento.

Fiquei curioso para entender o tamanho dos dados e modelos de treinamento em termos de gigabytes, em vez das métricas mais obscuras usadas no mundo da IA, como parâmetros ou tokens. Afinal, esses dados são a matéria-prima que poderá ser transportada ao redor do globo em cabos submarinos.

2. Como a IA impactará a demanda por largura de banda de cabos submarinos?

Nos últimos anos, tenho perguntado às pessoas como a IA pode moldar a demanda por largura de banda de cabos submarinos. Apresentei alguns resultados desta pesquisa falsa e não científica no gráfico abaixo.

Mesmo sem uma resposta definitiva a esta questão, vale a pena investigar quais os factores que podem desempenhar um papel.

Duas palavras: a localização é importante.

Um modelo pode exigir a extração de dados de treinamento de fontes localizadas em todo o mundo ou pode depender apenas de um conjunto de dados já armazenado localmente. O treinamento e a inferência do modelo (usando um modelo de IA) podem ocorrer na mesma cidade ou o modelo pode ser distribuído globalmente em vários knowledge facilities.

E isso é apenas a ponta do iceberg.

Fatores como tamanho dos dados, frequência de treinamento do modelo, disponibilidade de energia, leis de soberania de dados, latência de inferência e inferência no dispositivo também influenciarão os requisitos de largura de banda.

3. Existe uma bolha alimentada por IA nos novos cabos submarinos?

Muitos veteranos da indústria das telecomunicações recordarão a bolha de investimento em cabos submarinos (e o subsequente colapso) no ultimate da década de 1990/início da década de 2000. O precise nível de investimento é semelhante ao que aconteceu há um quarto de século?

Embora centenas de milhares de milhões de dólares sejam investidos em GPUs, centros de dados e geração de energia, o investimento em novos cabos é mais modesto.

Seguindo em frente

Encerrei examinando alguns fatores que devem ser observados à medida que a revolução da IA ​​avança. Em specific, a localização das futuras fábricas de IA é importante. Estarão em áreas não conectadas ou mal servidas por cabos submarinos?

Mais dados desta forma 👇

Você pode encontrar minha apresentação completa do 2024 Submarine Networks World aqui.

Baixe os slides. Liberte sua mente.