Manter-se competitivo na Main League Soccer (MLS) exige construir e manter um elenco forte por meio de planejamento estratégico de elenco e navegação inteligente e eficaz no mercado de transferências. Para conseguir isso, as equipes da MLS contam com Regras e Regulamentos de Composição da Lista. No entanto, estas regras são muitas vezes extensas e repletas de detalhes legalistas, o que pode atrasar os processos de tomada de decisão. Reconhecendo este desafio a União de Filadélfia Vencedores do Escudo de Apoiadores da MLS 2020recorreu à Databricks Information Intelligence Platform para agilizar a tomada de decisões. Aproveitando seus dados avançados e recursos de IA, eles implementaram um chatbot GenAI para auxiliar o entrance workplace com dúvidas sobre a composição da escalação, diretrizes orçamentárias salariais e outras regulamentações complexas, melhorando a eficiência e a clareza operacional.
Ao aproveitar o Databricks, estamos transformando nossa abordagem de gerenciamento de escalas, transformando um processo complexo e demorado em uma operação simplificada e orientada por dados.
— Addison Hunsicker, gerente sênior, Soccer Analytics, Philadelphia Union
O chatbot é acessado por meio de uma interface sem código, semelhante ao ChatGPT, implantada by way of Aplicativos de blocos de dadosuma solução para criar rapidamente dados seguros e aplicativos de IA. O entrance workplace se beneficia do estilo conversacional do chatbot, que não apenas fornece acesso fácil, mas também permite uma interpretação imediata dos regulamentos da escalação em segundos. Isso acelera a tomada de decisões e economiza um tempo valioso, permitindo que o entrance workplace se concentre em tarefas mais estratégicas e que agregam valor.
A Arquitetura da Solução: RAG para Interpretação Rápida de Regras
A solução é construída em uma arquitetura de geração aumentada de recuperação (RAG), com todos os componentes totalmente alimentados pela plataforma de inteligência de dados Databricks. O RAG funciona recuperando o contexto relevante de um mecanismo de armazenamento “externo”, aumentando-o para o immediate de consulta do usuário e gerando respostas altamente precisas e contextualmente relevantes a partir de um grande modelo de linguagem.
Neste caso, o mecanismo de armazenamento é Pesquisa vetorialum banco de dados vetorial fornecido pela Databricks. Para garantir que novos PDFs estejam automaticamente disponíveis, um mecanismo de ingestão contínua foi configurado para carregar PDFs de regras de lista em Volumes do Databricks, um armazenamento totalmente controlado para dados semiestruturados e não estruturados no Databricks. O texto é então extraído e representações numéricas (ou embeddings) são geradas usando modelos de incorporação do API do modelo do Databricks Basis. Esses embeddings são indexados e servidos pelo Vector Search para pesquisa e recuperação rápida e eficiente, permitindo acesso rápido a informações relevantes.
Philadelphia Union também utilizou Instrução DBRX do próprio Databricks modelo, um poderoso LLM de código aberto baseado em uma arquitetura Combination of Consultants (MoE). O DBRX Instruct oferece excelente desempenho em benchmarks como MMLU. Convenientemente, o modelo também está disponível através da API Databricks Basis Mannequin, eliminando a necessidade de hospedar ou gerir a sua própria infraestrutura de modelo.
Seu chatbot RAG é então implantado usando o Estrutura do agente Mosaic AIque permite a orquestração perfeita dos componentes do aplicativo RAG em uma cadeia que pode ser hospedada em um ponto de extremidade do Databricks Mannequin Serving como uma API. A estrutura também inclui um aplicativo de revisão e avaliações integradas, que foram inestimáveis para coletar suggestions humano e validar a eficácia da solução RAG antes da implantação. Isso garantiu que o chatbot fosse confiável e otimizado antes de ser disponibilizado para o entrance workplace.
A partir deste ponto, é fácil conectar um modelo de UI de chat padrão do Databricks Apps a um agente Mosaic AI Agent Framework e implantar o chatbot em minutos.
Principais benefícios da solução Databricks RAG
A seguir, exploraremos os principais benefícios oferecidos pela solução Databricks RAG e destacaremos os componentes relevantes que a tornam possível.
- Tempo rápido para modelar: A equipa de dados da União desenvolveu e implementou o seu modelo RAG em poucos dias. Aproveitando o Mosaic AI Agent Framework, o fluxo de trabalho completo do LLMOps permitiu iteração rápida, testes e implantação contínuos, reduzindo significativamente o tempo normalmente necessário para sistemas tão complexos.
- Realização imediata de valor: Com o sistema RAG implementado, a equipe começou a obter valor imediato ao automatizar a extração e análise de regras de escalação, tarefas que antes eram demoradas e manuais.
- Gerenciamento e governança de dados aprimorados: Blocos de dados Catálogo de Unidade garantiu uma gestão e governação robustas de dados, proporcionando à União um tratamento seguro e conforme de informações sensíveis sobre jogadores e escalações, mantendo ao mesmo tempo os padrões de governação empresarial.
- Escalabilidade e desempenho: A capacidade da plataforma Databricks de processar eficientemente grandes volumes de dados permitiu à União analisar não apenas as regras atuais de escalação, mas também tendências históricas e cenários futuros em escala.
- Desenvolvimento de IA flexível e de alta qualidade: A equipe simplificou o ciclo de vida do modelo RAG aproveitando o Mosaic AI Agent Framework. Recursos como registro de rastreamento, captura de suggestions e avaliação de desempenho permitiram melhoria contínua da qualidade e ajuste fino. Adicionalmente, Fluxo de ML a integração simplificou a experimentação com várias configurações RAG, garantindo desempenho very best.
- Implantação governada, segura e eficiente: O Estrutura do agente Mosaic AIA integração da Databricks Information Intelligence Platform garantiu que todas as implantações aderissem aos padrões de governança e segurança, permitindo um ambiente confiável e compatível para soluções de IA.
Conclusão
A Databricks se tornou o 12º homem do Philadelphia Union, ajudando-os a se transformar em uma organização voltada para o futuro e orientada por dados. À medida que a indústria desportiva continua a evoluir, a adoção de análises avançadas e IA pelo Philadelphia Union demonstra como a inteligência de dados pode ser uma mudança de jogo dentro e fora do campo.
O uso inovador da tecnologia pelo Union não apenas garante a conformidade com as Regras de Escalação da MLS, mas também proporciona à equipe uma vantagem competitiva na aquisição e desenvolvimento de jogadores. Com o Databricks, o Union está bem posicionado para navegar pelas complexidades dos regulamentos da MLS enquanto se concentra no que é mais importante – construir uma equipe vencedora. Valeu!
Esta postagem do weblog foi de autoria conjunta de Addison Hunsicker (União Filadélfia), Cristóvão Niesel (blocos de dados) e Samuel Emmanuel (Tijolos de dados).