Kong anunciou atualizações para o seu Ai Gatewayuma plataforma para governança e segurança do LLMS e outros recursos de IA.
Um dos novos recursos do AI Gateway 3.10 é um injetor de pano para reduzir as alucinações LLM, consultando automaticamente o banco de dados do vetor e inserindo dados relevantes para garantir que o LLM esteja aumentando os resultados com fontes de conhecimento conhecidas, explicou a empresa.
Isso também melhora a segurança, colocando o banco de dados vetorial por trás do gateway Kong AI e também melhora a produtividade do desenvolvedor, permitindo que eles se concentrem em outras coisas além de tentar reduzir as alucinações.
Outra atualização no AI Gateway 3.10 é um plug -in automático automático de sinalização de informações pessoalmente identificáveis (PII) para proteger mais de 20 categorias de PII em 12 idiomas diferentes. Ele trabalha com a maioria dos principais fornecedores de IA e pode ser executado no nível da plataforma world, para que os desenvolvedores não precisem codificar manualmente a higienização em todos os aplicativos que eles criam.
De acordo com Kong, outras opções de higienização semelhantes geralmente limitam -se à substituição de dados confidenciais por um token ou removê -los completamente, mas esse plug -in opcionalmente reinsira os dados higienizados na resposta antes de atingir o usuário ultimate, garantindo que eles possam obter os dados de que precisam sem comprometer a privacidade.
“À medida que a inteligência synthetic continua a evoluir, as organizações devem adotar uma infraestrutura robusta de IA para aproveitar todo o seu potencial”, disse Marco Palladino, CTO e co-fundador da Kong. “Com esta versão mais recente do gateway da AI, estamos equipando nossos clientes com as ferramentas necessárias para implementar a IA agêntica de maneira segura e eficaz, garantindo uma integração perfeita sem comprometer a experiência do usuário. Além disso, estamos ajudando a resolver alguns dos maiores desafios com os LLMs, como reduzir as alucinações e melhorar a segurança e a governança dos dados”.