Construindo aplicativos de banco de dados com React e Mosaic IA Brokers for Enterprise Chat Options

Os aplicativos Databricks fornecem uma plataforma robusta para criar e hospedar aplicativos interativos. O React é ótimo para criar aplicativos modernos e dinâmicos da Net que precisam atualizar sem problemas e parecer polidos. Ao combinar esta plataforma com uma estrutura de frontend de Frontend e AI em mosaico, os desenvolvedores podem criar aplicativos de bate-papo eficientes e inteligentes.

Databricks Apps e Mosaic AI Integration

A visão geral da arquitetura:

Pontos fortes dos aplicativos de banco de dados

Os aplicativos Databricks se integram nativamente com:

• Databricks SQL: Para consultar conjuntos de dados grandes com eficiência.
• Catálogo de unidades: Para governança de dados centralizados e controle de acesso.
• Modelo Serviço: Para implantar modelos de aprendizado de máquina em escala.
• Servindo pontos de extremidade: Para consultas eficientes para os modelos ML e agentes LLM.
• Empregos: Para oleodutos ETL e processos de fluxo de trabalho.

Os aplicativos Databricks eliminam a necessidade de infraestrutura de hospedagem externa. Os aplicativos herdam os recursos de segurança, conformidade e gerenciamento de recursos da plataforma, simplificando a implantação e a manutenção.

Os aplicativos Databricks suportam uma ampla gama de estruturas como DASH, Surylit, Gradio, Flask e FASTAPI. Essa flexibilidade permite aplicativos ricos em dados e visualmente envolventes.

O que é a estrutura do agente de IA em mosaico?

A estrutura do agente da AI em mosaico é um conjunto de ferramentas nos bancos de dados que ajudam os desenvolvedores a criar, implantar e gerenciar agentes de IA, como os usados ​​na geração de recuperação upmentada (RAG). Ele se integra a estruturas como Langchain e Llamaindex e usa recursos de banco de dados como o Catálogo de Unidades para governança de dados e chamado de ferramentas.

Os desenvolvedores podem registrar e testar agentes com MLFlow, depurar seu comportamento e aprimorar o desempenho. Recursos como o registro de solicitação, o streaming de token de resposta e os aplicativos de revisão facilitam a construção e a implantação de agentes de IA para casos de uso do mundo actual.

Caso de uso: Chatbot de gerenciamento de operações de fabricação

O gerenciamento de operações de fabricação (MOM) é essential para otimizar os processos de produção, melhorar a eficiência e manter a competitividade no cenário industrial em rápida evolução de hoje.

A demanda por gerenciamento de operações usando agentes de IA com interfaces de linguagem pure está crescendo rapidamente, impulsionada pela necessidade de maior eficiência, melhor tomada de decisão e experiências aprimoradas do usuário.

De acordo com a última publicação da meticulous Analysis® (fonte). ⁽¹⁾. Esse crescimento significativo ressalta o crescente reconhecimento da importância do gerenciamento de operações orientado a IA em várias indústrias.

Uma empresa de manufatura que implementa a chamada de ferramentas de alavancagem em mosaico AI Chatbot pode ajudar os gerentes de produção em:

Análise de gargalo

• Função da ferramenta: Consultas Databricks SQL usando o identify_bottleneck_station função para determinar a estação causando mais atrasos.
• Exemplo de consulta: “Qual é o gargalo atual na linha de montagem?”
• Resposta: “A estação 5 é o gargalo atual, com um atraso médio de 15 minutos por ciclo”.

Rastreamento de inventário

• Função da ferramenta: Chamadas check_inventory_levels Para recuperar dados de ações em tempo actual para uma estação especificada.
• Exemplo de consulta: “Temos materiais suficientes para a estação 3?”
• Resposta: “A estação 3 tem materiais suficientes para os próximos cinco ciclos de produção”.

Essas consultas podem ser facilmente implementadas como funções armazenadas no catálogo da Unity, usando SQL ou Python. Em seguida, um agente de IA pode executar tarefas como recuperação de dados, execução de código e tomada de decisão baseada em contexto, aproveitando as chamadas de função. Enquanto não vamos mergulhar nos detalhes da configuração do agente para xixi de ferramentas aqui, você pode consultar o Databricks Gerative AI Cookbook aqui Para orientação detalhada.

Depois que o agente de IA em mosaico é configurado e configurado para lidar com várias ferramentas, ele pode ser implantado como um terminal de serviço de modelo no Databricks. Esse terminal atua como a interface de back-end, permitindo que aplicativos de front-end, como chatbots, enviem consultas e recebam insights em tempo actual.

Aqui está a interface do chatbot em execução localmente; Mais tarde, o demonstraremos após a implantação nos aplicativos Databricks.

Implementação de aplicativos do Databricks

1 Frontend com React

O React Frontend fornece uma interface interativa e fácil de usar para consultar o chatbot e visualizar respostas. Os principais recursos incluem renderização de mensagens em tempo actual, envio de consultas e manuseio de respostas de bot, interface do usuário interativo com suggestions e suporte de remarca.

Código de entrance -end enviando mensagens para o again -end

Cliente da API: o AXIOS é usado para fazer solicitações HTTP. O BaseUrl é definido dinamicamente com base no ambiente (desenvolvimento ou produção).

HandleSendMessage: Ele captura a entrada do usuário, envia a mensagem para o ponto ultimate do /API /CHAT API e atualiza o histórico de bate -papo com mensagens de usuário e bot.

2. Again -end com fASTAPI

O again -end do FASTAPI serve como a ponte entre os agentes do React Frontend e Mosaic AI. Ele direciona as consultas do usuário para o terminal de servir de modelo do agente para obter uma resposta.

Consultas de usuário de manuseio de código de again -end

Esse endpoint da API recebe mensagens do usuário, interage com o terminal Mosaic AI Agent Mannequin-Serving e retorna respostas específicas da tarefa.

No FASTAPI, a ordem das subaplicativos de montagem é essential porque determina como as solicitações de entrada são roteadas.

app.mount("/api", api_app):

• Isso monta uma subaplicação (api_app) no /api rota.
• Qualquer solicitação começando com /api (por exemplo, /api/chat) é roteado para esta subaplicativa.
• Isso garante que todos os pedidos relacionados à API sejam processados ​​pelo api_app exemplo.

app.mount("/", ui_app):

• Isso monta os arquivos estáticos do shopper/construct diretório na raiz (/) rota.
• Isso geralmente é usado para servir o aplicativo de entrance -end compilado, que inclui index.htmlJavaScript, CSS e outros ativos estáticos. A maioria das principais estruturas da interface do usuário (por exemplo, React, Vue e Svelte) suporta a compilação em um conjunto de ativos por meio de diferentes pacotes (por exemplo, Vite, Webpack ou Esbuild).
• Qualquer pedido que não comece com /api será roteado para o ui_app.

• Configuração da API e definição de endpoint: O código outline um aplicativo FASTAPI com um terminal postal (/chat) sob o api_app instância que aponta para o ponto de extremidade de servir de modelo de Mosaic AI no Databricks.
• Injeção de dependência e manuseio de solicitações: O endpoint usa o mecanismo de injeção de dependência da FASTAPI (Relies upon) para injetar um WorkspaceClientque é responsável por interagir com as APIs do Databricks. O chat_with_llm Função leva um ChatRequest contendo a mensagem do usuário, formata -a como um ChatMessage com o papel USERe o envia para o endpoint de servir usando o shopper.serving_endpoints.question método.
• Resposta Analisando e retornar: A resposta do agente é estruturada e devolvida como um ChatResponse para o cliente.

Implantação em aplicativos Databricks

1. Preparando o again -end

• Coloque o código FASTAPI em um app.py arquivo.
• Defina dependências em necessities.txt:
  
• Crie um app.yaml arquivo:
  

A seção de comando descreve a configuração do servidor Gunicorn com as seguintes especificações:

• Server.app:app: executa seu aplicativo FASTAPI.
• -w 2: usa dois processos de trabalhador para lidar com solicitações de entrada.
• uvicorn.staff.uvicornworker: usa trabalhadores da Uvicorn, que são compatíveis com a estrutura do ASGI da FASTAPI.

A seção Env especifica pares de valor-chave que definem variáveis ​​de ambiente para passar para o aplicativo ⁽²⁾:

• Nome: o nome da variável do ambiente.
• Valorfrom: Para um valor definido externamente, o nome da fonte que contém o valor. Por exemplo, o nome de um segredo ou uma tabela de banco de dados que contém o valor.

Estou mapeando as variáveis ​​do ambiente SERVING_ENDPOINT_NAME Para o modelo de databricks, que serve o endpoint agent_model_name_fqn, onde model_name_fqn representa o espaço para nome de três níveis do catálogo da unidade para catalog.db.model_name.

2. Preparando o entrance -end

• Construa o aplicativo React com npm run construct e coloque os arquivos estáticos em /shopper/construct.

Aqui está a estrutura do arquivo:

3. Etapas de implantação

1. Crie o aplicativo Databricks:

2. Configure os Recursos de Databricks:
   Estou configurando os recursos do Databricks para alinhar com os recursos definidos na seção Env do arquivo App.yaml. Isso inclui a configuração de recursos como o terminal de serviço do modelo (agent_model_name_fqn).
   
   A imagem abaixo mostra que o aplicativo Chatbot foi criado com sucesso:
   
3. Arquivos de sincronização:
   
4. Implante o aplicativo:
   

Depois de executar esse comando, o processo de implantação levará alguns minutos. Uma vez implantado com sucesso, o URL do aplicativo Databricks será exibido, indicando que está em funcionamento.

E você pode começar a conversar com isso. Por exemplo, nossa eficiência de produção é baixa. Encontre o gargalo, verifique sua eficiência e gerar um relatório detalhado. Envie um e -mail para (E-mail protegido) com o relatório. Analise também o sentimento do relatório.

Conclusão

A integração dos aplicativos Databricks com o React e a estrutura do agente de AI em mosaico oferece uma solução poderosa para criar aplicativos de bate -papo dinâmicos e interativos. Ao aproveitar os recursos de processamento de dados internos dos Databricks, a infraestrutura de implantação de modelo segura e a simplificação de implantação, os desenvolvedores podem criar sistemas robustos que lidam com consultas complexas.

O uso do FASTAPI como uma ponte entre o React Frontend e os agentes da IA ​​em mosaico garante comunicação perfeita. Embora os aplicativos Databricks suportem várias estruturas de back-end do Python, como Flask e Django, o FASTAPI foi escolhido por sua API concisa e adequada para desenvolvedores.

Essa configuração mostra como os recursos avançados de IA podem ser integrados às soluções práticas da indústria, como a fabricação de chatbots, para impulsionar a eficiência e a tomada de decisões. À medida que o Databricks continua a evoluir sua plataforma, essas integrações podem se expandir para atender a casos de uso mais amplos, tornando-o uma ferramenta essencial para empresas que visam inovar com soluções orientadas a IA.

Para fazer referência ao código -fonte, encontre o repositório do GitHub vinculado aqui.

Referências:

(1) AI no mercado de fabricação para atingir US $ 84,5 bilhões até 2031. Fonte:
https://www.meticulousresearch.com/pressrelease/294/ai-in-manufacturing-market

(2) Configuração de aplicativos Databricks. Fonte:
https://docs.databricks.com/en/dev-tools/databricks-apps/configuration.html#databricks-apps-configuration

A integração dos aplicativos Databricks com o React e a estrutura do agente de AI em mosaico oferece uma solução poderosa para criar aplicativos de bate -papo dinâmicos e interativos. Ao aproveitar os recursos de processamento de dados internos dos Databricks, a infraestrutura de implantação de modelo segura e a simplificação de implantação, os desenvolvedores podem criar sistemas robustos que lidam com consultas complexas.