 |
Hoje, estamos anunciando a disponibilidade geral de Amazon Elastic Compute Cloud (Amazon EC2) Instâncias G7, oferecendo aceleração de GPU de alto desempenho para cargas de trabalho de inferência de IA, gráficos e análise de dados.
A AWS é o primeiro grande provedor de nuvem a oferecer suporte às GPUs NVIDIA RTX PRO 4500 Blackwell Server Version. As instâncias G7 são aceleradas por essas GPUs com processadores escaláveis Intel Xeon de sexta geração personalizados, proporcionando até 4,6x de desempenho de inferência de IA e até 2,1x de desempenho gráfico em comparação com Instâncias G6. As instâncias G7 também oferecem desempenho mais rápido para análises aceleradas por GPU em Amazon EMR sobre Serviço Amazon Elastic Kubernetes (Amazon EKS). As instâncias G7 são adequadas para uma ampla variedade de cargas de trabalho habilitadas para GPU, incluindo inferência de IA, renderização de gráficos, transcodificação e análise de vídeo, computação espacial, infraestrutura de desktop digital (VDI) e análise de dados.
Aqui estão as melhorias das instâncias G7 em comparação com a geração anterior:
- Memória GPU mais rápida – As GPUs NVIDIA RTX PRO 4500 Blackwell Server Version oferecem 1,33 vezes a capacidade de memória da GPU e 2,45 vezes a largura de banda da memória da GPU em comparação com as instâncias G6. Com 32 GB de memória GPU por GPU, Tensor Cores de 5ª geração e RT Cores de 4ª geração, as instâncias G7 oferecem inferência de IA e desempenho gráfico aprimorados.
- Rede e armazenamento de alto desempenho – As instâncias G7 vêm com 700 Gbps de taxa de transferência de rede habilitada para EFA (7x em comparação com G6), permitindo a conectividade de baixa latência e alta largura de banda que a inferência de IA, aplicativos com uso intensivo de gráficos e cargas de trabalho de análise de dados aceleradas por GPU precisam para ter o melhor desempenho. As instâncias G7 suportam armazenamento SSD NVMe native de até 7,6 TB, permitindo manter grandes modelos e conjuntos de dados próximos da computação, reduzir a sobrecarga de transferência de dados e melhorar a produtividade.
- Mecanismos avançados de codificação e decodificação de vídeo – Os mecanismos NVENC de nona geração e NVDEC de sexta geração suportam codificação e decodificação 4:2:2 para fluxos de trabalho de vídeo de alta resolução, fornecendo fluxos de vídeo simultâneos 1,5x em comparação com instâncias G6 da geração anterior.
Especificações da instância EC2 G7
As instâncias G7 apresentam até 8 GPUs NVIDIA RTX PRO 4500 Blackwell Server Version com até 256 GB de memória complete de GPU (32 GB de memória por GPU) e processadores escalonáveis Intel Xeon personalizados. Eles também estão disponíveis em 7 tamanhos e suportam até 192 vCPUs, até 700 Gbps de largura de banda de rede, até 768 GiB de memória de sistema e até 7,6 TB de armazenamento SSD NVMe native.
Aqui estão as especificações:
| Nome da instância | GPU | Memória GPU (GB) | vCPUs | Memória (GiB) | Armazenar | Largura de banda EBS (Gbps) | Largura de banda da rede (Gbps) |
| g7.2xgrande | 1 | 32 | 8 | 32 | 1×600 | Até 8 | Até 60 |
| g7.4xgrande | 1 | 32 | 16 | 64 | 1×600 | 8 | Até 100 |
| g7.8xgrande | 1 | 32 | 32 | 128 | 1×950 | 16 | Até 100 |
| g7.12xgrande | 2 | 64 | 48 | 192 | 1×1900 | 20 | 175 |
| g7.24xgrande | 4 | 128 | 96 | 384 | 1×3800 | 40 | 350 |
| g7.48xgrande | 8 | 256 | 192 | 768 | 2×3800 | 80 | 700 |
| g7.metallic* | 8 | 256 | 192 | 768 | 2×3800 | 80 | 700 |
* Em breve
As instâncias G7 suportam NVIDIA GPUDirect P2P para tamanhos multi-GPU, NVIDIA GPUDirect RDMA com EFA e GPUDirect RDMA com EFA para Amazon FSx para Lustrepermitindo comunicação de baixa latência entre GPU e GPU para cargas de trabalho com várias GPUs e vários nós.
Para começar a usar instâncias G7, você pode usar o AMIs de aprendizado profundo da AWS (DLAMI) ou AMIs de estação de trabalho NVIDIA com drivers de GPU pré-empacotados para suas cargas de trabalho gráficas e de inferência de IA. Para usar instâncias G7 com Amazon EKS, crie AMIs EKS com driver NVIDIA versão R595 com Automação fornecida pelo EKS. As instâncias G7 oferecem suporte a vários sistemas operacionais, incluindo Amazon Linux, Ubuntu, RHEL e Home windows Server, com integração abrangente de drivers NVIDIA, proporcionando compatibilidade com bibliotecas gráficas padrão do setor, incluindo DirectX, Vulkan e OpenGL.
Comece hoje
Você pode começar a usar instâncias G7 do Amazon EC2 hoje mesmo em duas regiões da AWS: Leste dos EUA (Ohio) e Oeste dos EUA (Oregon). Para verificar futuros planos de expansão regional, procure o tipo de instância no CloudFormação guia de recursos na Capacidades da AWS por região página.
As instâncias G7 são oferecidas por meio de diversas opções de compra, incluindo Sob demanda, Planos de Poupançae Instâncias spot. Instâncias Dedicadas também são apoiados para 12xlarge, 24xlargee 48xlarge tamanhos. Para preços detalhados, visite o Preços do Amazon EC2 página.
Pronto para começar? Inicie instâncias G7 a partir do Console Amazon EC2. Para mais detalhes, acesse o Instâncias G7 do Amazon EC2 página. Adoraríamos ouvir seu suggestions. Compartilhe em AWS re:Submit para EC2 ou entre em contato por meio de seus contatos habituais do AWS Help.
–Daniel Abibe