JetBlue dimensiona IA em tempo actual no Rockset


JetBlue é líder em dados no setor de companhias aéreas, usando dados para oferecer experiências de clientes líderes no setor e tarifas baixas disruptivas para destinos populares ao redor do mundo. A chave para que as experiências de clientes da JetBlue impulsionem uma forte fidelidade é permanecer eficiente mesmo ao operar nos espaços aéreos mais congestionados do mundo — um feito que seria inatingível sem análises em tempo actual e IA.

A JetBlue otimiza a alta utilização de aeronaves e tripulações adquirindo um profundo entendimento das operações globais de companhias aéreas, do relacionamento entre aeronaves, clientes e tripulações, dos fatores que causam atrasos e dos potenciais efeitos em cascata dos atrasos que podem levar a mais interrupções.

Chegar a esse nível de perception requer dar sentido a grandes volumes e variedades de fontes de todos os componentes de dados de operações a dados meteorológicos, dados de tráfego aéreo e muito mais. A complexidade dos dados e da situação pode ser difícil de compreender rapidamente e agir sem a assistência do aprendizado de máquina.

É por isso que a JetBlue inova com análises em tempo actual e IA, usando mais de 15 aplicativos de aprendizado de máquina em produção hoje para preços dinâmicos, personalização do cliente, aplicativos de alerta, chatbots e muito mais. Esses aplicativos de aprendizado de máquina dão à JetBlue uma vantagem competitiva ao aprimorar suas capacidades comerciais e operacionais.

Neste weblog, discutiremos como a JetBlue construiu uma plataforma interna de machine studying, BlueML, que permite que equipes produzam rapidamente novos aplicativos de machine studying usando uma biblioteca e configuração comuns. O BlueML tem sido essencial para dar suporte a aplicativos baseados em LLM e aos produtos de IA e ML em tempo actual da JetBlue.

Dados e IA na JetBlue

Loja de recursos BlueML

A JetBlue adota uma arquitetura lakehouse usando Databricks Delta Stay Tables para dar suporte a dados de uma variedade de fontes e formatos, facilitando a iteração de cientistas e engenheiros de dados em seus aplicativos. No lakehouse, os dados são processados ​​e enriquecidos seguindo o estrutura de medalhão para criar recursos e previsões em lote, quase em tempo actual e em tempo actual para o repositório de recursos BlueML. O Rockset atua como o repositório de recursos on-line para BlueML, persistindo recursos para consultas de baixa latência durante a inferência.


JetBlue dimensiona IA em tempo actual no Rockset

Arquitetura de dados, análises e aprendizado de máquina da JetBlue

O repositório de recursos BlueML acelerou o desenvolvimento de aplicativos de ML na JetBlue, permitindo que cientistas e engenheiros de dados se concentrem na modelagem e engenharia de recursos reutilizáveis, e não em código complexo e operações de ML. Como resultado, as equipes podem produzir novos recursos e modelos com o mínimo de elevação de engenharia.


O Rockset indexa e disponibiliza recursos on-line para recomendações, promoções de marketing e o gêmeo digital BlueSky.

O Rockset indexa e disponibiliza recursos on-line para recomendações, promoções de advertising and marketing e o gêmeo digital BlueSky.

Um facilitador essencial da velocidade do desenvolvimento de ML com BlueML é a flexibilidade do sistema de banco de dados subjacente. O Rockset tem um esquema flexível e um modelo de consulta, tornando possível adicionar facilmente novos dados ou alterar recursos e previsões. Com o Rockset Tecnologia de indexação convergenteos dados são indexados em um índice de pesquisa, armazenamento em colunas, índice ANN e armazenamento em linhas para análises de latência de milissegundos em uma ampla gama de padrões de consulta. O Rockset fornece a velocidade e a escala necessárias para aplicativos de ML acessados ​​diariamente por mais de 2.000 funcionários na JetBlue.

Banco de dados de vetores para chatbots

A JetBlue também usa o Rockset como seu banco de dados vetorial para armazenar e indexar vetores de alta dimensão gerados a partir de Massive Language Fashions (LLMs) para permitir uma busca eficiente para aplicativos de chatbot. Com os recentes aprimoramentos e disponibilidade de LLMs, a JetBlue está trabalhando rapidamente para tornar mais fácil para as equipes internas acessarem dados usando linguagem pure para encontrar o standing de voos, FAQ geral, analisar o sentimento do cliente, motivos para quaisquer atrasos e o impacto dos atrasos em clientes e tripulações.


A arquitetura para chatbots da JetBlue usando OpenAI, Dolly e Rockset.

A arquitetura para chatbots da JetBlue usando OpenAI e Rockset.

Camada semântica em tempo actual para aplicações de IA e ML

Além da iniciativa BlueML, a JetBlue também alavancou a arquitetura lakehouse para seus produtos de IA e ML que exigem uma camada semântica em tempo actual. A equipe de Ciência de Dados, Engenharia de Dados e IA e ML da JetBlue conseguiu conectar rapidamente pipelines de streaming a coleções Rockset e lançar APIs de consulta lambda. Esses endpoints de API REST são integrados diretamente aos aplicativos front-end, resultando em uma estratégia de entrada no mercado de produtos eficiente e sem a necessidade de grandes equipes de engenharia de software program.

Os usuários de produtos de IA e ML em tempo actual podem usar com sucesso LLMs incorporadoscapacidades de simulação e funcionalidades mais avançadas diretamente nos produtos como resultado do alto QPS, baixa barreira de entrada e camadas semânticas escaláveis. Esses produtos variam de previsão de receita e precificação dinâmica auxiliar a gêmeos digitais operacionais e mecanismos de recomendação de decisão.


A interface do chatbot BlueSky usada para tomada de decisões operacionais.

A interface do chatbot BlueSky usada para tomada de decisões operacionais.

Requisitos para loja de recursos on-line e banco de dados de vetores

O Rockset é usado pela equipe de ciência de dados da JetBlue para servir produtos internos, incluindo recomendações, promoções de advertising and marketing e gêmeos digitais operacionais. A JetBlue avaliou o Rockset com base nos seguintes requisitos:

  • Consultas de latência de milissegundos: equipes internas querem experiências instantâneas para que possam responder rapidamente a mudanças nas condições no ar e no solo. É por isso que experiências de chat como “quanto tempo meu voo está atrasado” precisam gerar respostas em menos de um segundo.
  • Alta simultaneidade: o banco de dados oferece suporte a aplicativos de alta simultaneidade utilizados por mais de 10.000 funcionários diariamente.
  • Dados em tempo actual: a JetBlue opera nos espaços aéreos mais congestionados e atrasos ao redor do mundo podem impactar as operações. Todos os produtos operacionais de IA e ML devem suportar latência de dados de milissegundos para que as equipes possam tomar medidas imediatas sobre os dados mais atualizados.
  • Arquitetura escalável: a JetBlue requer uma arquitetura de nuvem escalável que separe a computação do armazenamento, pois há vários aplicativos que precisam acessar os mesmos recursos e conjuntos de dados. Com uma arquitetura de nuvem, cada aplicativo tem seu próprio cluster de computação isolado para eliminar a contenção de recursos entre aplicativos e economizar em custos de armazenamento.

Além de avaliar o Rockset, a equipe de ciência de dados também analisou várias soluções pontuais, incluindo characteristic shops, bancos de dados vetoriais e information warehouses. Com o Rockset, eles conseguiram consolidar 3-4 bancos de dados em uma única solução e minimizar as operações.

“A iteração e a velocidade dos novos produtos de ML eram as mais importantes para nós”, diz Sai Ravuru, gerente sênior de ciência de dados e análise da JetBlue. “Vimos o imenso poder da análise em tempo actual e da IA ​​para transformar o aumento e a automação de decisões em tempo actual da JetBlue, já que unir 3-4 soluções de banco de dados teria desacelerado o desenvolvimento de aplicativos. Com a Rockset, encontramos um banco de dados que poderia acompanhar o ritmo rápido de inovação da JetBlue.”

Benefícios do Rockset para IA na JetBlue

A equipe de dados da JetBlue adotou o Rockset como sua loja de recursos on-line e banco de dados de pesquisa vetorial. Os principais recursos do Rockset permitem que a equipe de dados avance mais rapidamente no desenvolvimento de aplicativos, ao mesmo tempo em que obtém desempenho consistentemente rápido:

  • Índice Convergente: O Índice Convergente fornece desempenho de consulta com latência de milissegundos em pesquisas, pesquisa de vetores, agregações e junções com ajuste mínimo de desempenho. Com a vantagem de desempenho pronta para uso do Rockset, a equipe da JetBlue pode lançar rapidamente novos recursos ou aplicativos.
  • Modelo de dados flexível: Os dados em larga escala e fortemente aninhados podiam ser facilmente consultados usando SQL. Além disso, o gerenciamento de esquema dinâmico da Rockset removeu a dependência da equipe de ciência de dados na engenharia para modificações de recursos. Como resultado do modelo de dados flexível da Rockset, a equipe viu uma redução de 30% no tempo de lançamento de novos recursos de ML no mercado.
  • APIs SQL: Rockset também adota uma abordagem API-first e armazena consultas SQL nomeadas e parametrizadas que podem ser executadas a partir de um endpoint REST dedicado. Essas consulta lambdas acelerar o desenvolvimento de aplicativos porque as equipes de dados não precisam mais criar APIs dedicadas, removendo uma etapa de desenvolvimento que antes podia levar até uma semana. “Teríamos levado mais 3 a 6 meses para tirar os produtos de IA e ML do papel se não fosse pelas lambdas de consulta”, diz Sai Ravuru. “A Rockset reduziu esse tempo para dias devido à facilidade de converter uma consulta SQL em uma API REST.”
  • Arquitetura nativa da nuvem: A escalabilidade do Rockset permite que a JetBlue suporte aplicativos de alta simultaneidade sem se preocupar com um aumento considerável em sua conta de computação. Como o Rockset é desenvolvido especificamente para aplicativos de pesquisa e analíticos na nuvem, ele fornece melhor preço-desempenho do que soluções de lakehouse e information warehouse e já está gerando economia de computação para a JetBlue. Um dos benefícios da arquitetura do Rockset é sua capacidade de separar ambos computação-armazenamento e calcular-computar para fornecer aplicativos de desempenho consistente, baseados em dados de streaming de alta velocidade.

O futuro da IA ​​no céu

A IA está apenas começando a decolar e já está beneficiando a JetBlue e os cerca de 40 milhões de viajantes que ela transporta a cada ano. A velocidade da inovação na JetBlue é possibilitada pela facilidade de uso da pilha de dados subjacente.

“Estamos com mais de 15 aplicativos de ML em produção e vejo esse número crescendo exponencialmente no próximo ano”, diz Sai Ravuru. “Isso remonta ao nosso investimento no BlueML como uma plataforma centralizada e de autoatendimento para IA e ML, onde dados e previsões em tempo actual podem ser acessados ​​em toda a organização para aprimorar a experiência do cliente”, continua Ravuru. “Construímos a base para permitir a inovação por meio da IA ​​e mal posso esperar para ver o impacto transformador que isso tem na experiência de nossos clientes reservando, voando e interagindo com os canais digitais da JetBlue. O próximo passo é levar muitos dos insights fornecidos às equipes internas e infundi-los no website e nos aplicativos da JetBlue. Ainda há muito mais por vir.”

Conteúdo incorporado: https://youtu.be/K30XqhmWdTA?si=NmtAMhE0nhKhKiJy



Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *