

Kong está hospedando seu Cimeira da API 2024 evento, e fez anúncios sobre diversas melhorias em suas plataformas. Os principais destaques são as atualizações do Kong Konnect, sua plataforma de gerenciamento de API, que também inclui novas versões do Kong Insomnia, Kong Gateway e Kong AI Gateway.
As atualizações mais recentes do Kong Konnect ajudam as empresas a preparar ainda mais sua infraestrutura de API para lidar com casos de uso de IA.
“Não há IA sem APIs, e a versão mais recente do Kong Konnect fornece a infraestrutura essencial para ambas. Nosso objetivo é dar às empresas as ferramentas para gerenciar e dimensionar seu tráfego de API com segurança, ajudando a impulsionar a inovação mais rápido do que nunca”, disse Augusto Marietti, CEO e cofundador da Kong Inc. “O Kong Konnect fornece uma plataforma de API unificada para construir, executar e governar aplicativos GenAI.”
Esta atualização inclui o Konnect Service Catalog, que fornece uma única fonte de verdade para APIs e serviços, o que ajuda as empresas a gerenciar APIs shadow, permitindo que elas se livrem de APIs não descobertas ou não utilizadas. O Service Catalog também apresenta um Scorecard que avalia a conformidade de um serviço com critérios definidos.
Konnect Devoted Cloud Gateways também estão disponíveis no Azure e em novas regiões da AWS. De acordo com a empresa, essa disponibilidade adicional permite que as organizações implantem e gerenciem suas APIs em várias nuvens e mantenham SLAs de nível empresarial.
O Kong Insomnia 10, que é uma ferramenta de design e teste de API, adiciona execuções de coleta ilimitadas, AI Runner para desenvolver aplicativos GenAI e Invite Management, que garante que os ativos da API só possam ser acessados por usuários autorizados.
Outros recursos nesta versão do Kong Konnect incluem Serverless Gateways, um repositório centralizado e baseado em nuvem para gerenciar configurações de API e análises avançadas de API e IA.
A atualização também introduz as versões 3.8 do Kong Gateway e do Kong AI Gateway. O Kong Gateway 3.8 adiciona Atualizações de Configuração Incremental, que reduzem significativamente o uso de memória e CPU, e suporte aprimorado ao OpenTelemetry.
O Kong AI Gateway 3.8 adiciona vários recursos de raciocínio semântico, incluindo o Semantic Caching, que reconhece quando diferentes prompts representam a mesma pergunta, resultando em tempos de resposta mais rápidos. Por exemplo, “quanto tempo leva para cozinhar macarrão?” e ”quanto tempo leva para cozinhar espaguete?” seriam respondidos com a mesma resposta em cache.
Segundo a empresa, a capacidade de responder com respostas em cache reduz o tempo de processamento e diminui a sobrecarga computacional.
Outro novo recurso nesta atualização é o Semantic Immediate Guard, que permite que o AI Gateway entenda a “essência” de uma solicitação e bloqueie prompts inapropriados. Normalmente, esses prompts são classificados pela identificação de palavras-chave específicas, e esse recurso elimina a necessidade disso.
A versão 3.8 também apresenta o Roteamento Semântico, que seleciona o LLM mais relevante com base nos requisitos do desenvolvedor.
“O Kong AI Gateway 3.8 é um passo significativo para permitir que as organizações aproveitem totalmente o poder da IA”, disse Marco Palladino, cofundador e CTO da Kong. “Ao introduzir a Semantic Intelligence em nosso AI Gateway, estamos abordando os desafios mais urgentes enfrentados pelas empresas que alavancam o GenAI hoje — velocidade, custo e segurança — ao mesmo tempo em que melhoramos drasticamente a experiência do desenvolvedor.”