Amazon SQS completa 20 anos: duas décadas de mensagens confiáveis ​​em grande escala


Amazon SQS completa 20 anos: duas décadas de mensagens confiáveis ​​em grande escala

Em 13 de julho de 2006, lançado Serviço de fila simples da Amazon (Amazon SQS) como um dos três primeiros serviços disponíveis aos clientes, juntamente com Amazon EC2 e Amazon S3. Aprendemos em primeira mão que os sistemas distribuídos precisam de uma maneira confiável de passar mensagens entre componentes sem criar dependências rígidas. Se um serviço chamasse outro diretamente e esse serviço estivesse lento ou indisponível, as falhas ocorreriam em cascata por todo o sistema. O enfileiramento de mensagens resolveu isso permitindo que os serviços se comunicassem de forma assíncrona: um produtor poderia colocar uma mensagem em uma fila e seguir em frente, enquanto um consumidor a pegaria quando estivesse pronto. Essa abordagem evitou que falhas de serviços individuais afetassem o restante do sistema.

Quando o Amazon SQS foi lançado publicamente em julho de 2006, ele disponibilizou esse padrão para todos os clientes da AWS. Vinte anos depois, essa função central, dissociar produtores e consumidores, continua a ser a razão pela qual os clientes utilizam o SQS. A escala, o desempenho e os controles operacionais em torno dele parecem muito diferentes agora.

Jeff Barr cobriu os primeiros 15 anos dos marcos do SQS em seu postagem do 15º aniversáriodo limite unique de mensagens de 8 KB em 2006 por meio de filas FIFO, criptografia no lado do servidor e integração Lambda. Nos últimos cinco anos, continuamos a dimensionar o SQS, adicionamos padrões de segurança mais fortes e introduzimos novos recursos que abordam padrões de carga de trabalho cada vez mais complexos.

Principais marcos entre 2021 e 2026

Modo de alto rendimento para filas FIFO (2021): Em Maio de 2021lançamos a disponibilidade geral do modo de alto rendimento para filas FIFO, suportando até 3.000 transações por segundo (TPS) por ação de API, um aumento de dez vezes em relação ao limite anterior. Continuámos a aumentar este limite máximo durante os dois anos seguintes: para 6.000 TPS em Outubro de 2022para 9.000 TPS em Agosto de 2023e para 18.000 TPS em Outubro de 2023antes de atingir 70.000 TPS por ação de API em regiões selecionadas Novembro de 2023.

Criptografia do lado do servidor com SSE-SQS (2021): Em Novembro de 2021introduzimos a criptografia no lado do servidor com chaves de criptografia gerenciadas pelo Amazon SQS (SSE-SQS), oferecendo aos clientes uma opção de criptografia que não exigia gerenciamento de chaves. Em Outubro de 2022tornamos o SSE-SQS o padrão para todas as filas recém-criadas, para que os clientes não precisassem mais ativá-lo explicitamente.

Aprimoramentos de redirecionamento da fila de mensagens não entregues (2021): Expandimos progressivamente a forma como os clientes recuperam mensagens não consumidas de filas de mensagens não entregues. Em Dezembro de 2021adicionamos redrive DLQ à fila de origem diretamente no console SQS. Em Junho de 2023estendemos esse recurso para o AWS SDK e CLI por meio de novas APIs, incluindo StartMessageMoveTask, CancelMessageMoveTaske ListMessageMoveTasks. Em Novembro de 2023adicionamos suporte a redrive para filas FIFO.

Controle de acesso baseado em atributos, ABAC (2022): Em Novembro de 2022introduzimos o ABAC, oferecendo aos clientes a capacidade de configurar permissões de acesso com base em tags de fila, em vez de manter políticas estáticas à medida que os recursos são dimensionados.

Suporte ao protocolo JSON (2023): Em Novembro de 2023adicionamos suporte para o protocolo JSON no AWS SDK, reduzindo a latência de processamento de mensagens de ponta a ponta em até 23% para uma carga útil de 5 KB e diminuindo o uso de CPU e memória do lado do cliente.

Integração do console do Amazon EventBridge Pipes (2023): Nós adicionado a capacidade de conectar uma fila diretamente ao EventBridge Pipes a partir do console SQS, roteando mensagens para uma ampla variedade de destinos de serviço da AWS sem escrever código de integração personalizado.

Biblioteca cliente estendida para Python (2024): Nós trouxe a Prolonged Shopper Library, anteriormente disponível para Java, para desenvolvedores Python, permitindo o envio de mensagens de até 2 GB por meio de SQS, armazenando a carga útil no Amazon S3 e passando uma referência pela fila.

Aumento do limite de mensagens em voo FIFO (2024): Nós aumentou o limite de mensagens em trânsito para filas FIFO de 20.000 para 120.000 mensagens, para que os consumidores possam processar significativamente mais mensagens simultaneamente sem serem limitados pelo teto anterior.

Filas justas para cargas de trabalho multilocatários (2025): Nós introduzido filas justas para mitigar o problema do vizinho barulhento em filas padrão multilocatários. Ao incluir um ID de grupo de mensagens ao enviar mensagens, os clientes podem evitar que um único inquilino atrase a entrega de mensagens para outros, sem quaisquer alterações necessárias por parte do consumidor.

Tamanho máximo de carga útil de mensagem de 1 MiB (2025): Nós aumentou a carga máxima de mensagens de 256 KiB a 1 MiB para filas padrão e FIFO, ajudando os clientes a enviar mensagens maiores sem descarregar dados para armazenamento externo. O mapeamento da fonte de eventos do AWS Lambda para SQS foi atualizado em paralelo para oferecer suporte ao novo tamanho da carga útil.

A constante por trás da mudança

Apesar de duas décadas de acréscimos de recursos, o caso de uso elementary do SQS não mudou. Os clientes o utilizam para desacoplar serviços, armazenar buffers de tráfego e criar sistemas que permanecem resilientes quando componentes individuais falham. Esse mesmo padrão agora se estende às cargas de trabalho de IA. Os clientes usam filas SQS para armazenar solicitações em grandes modelos de linguagem, gerenciar a taxa de transferência de inferência e coordenar a comunicação entre agentes autônomos de IA que operam como serviços independentes. Para um exemplo dessa arquitetura na prática, leia Criação de agentes de IA assíncronos com Amazon Bedrock.

Para saber mais sobre o Amazon SQS, visite o Página do produto Amazon SQSrevise o guia do desenvolvedorou discover as atualizações recentes no Blogs da AWS.

-Esra

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *