Databricks on Databricks – Transformando a experiência de vendas usando agentes GenAI

Na Databricks, nossa visão de automação é automatizar todos os aspectos do negócio, tornando-o melhor, mais rápido e mais barato. Para as equipes de vendas, estamos transformando digitalmente a experiência do vendedor, fornecendo agentes genAI que auxiliam o vendedor em todo o ciclo de vida das vendas. Nosso objetivo é aumentar a experiência do vendedor com recursos de IA, integrando-os perfeitamente em suas tarefas diárias e fornecendo uma maneira mais simples e eficaz para os vendedores recuperarem ativos de informações, bem como orquestrarem ações, automatizando tarefas administrativas manuais repetitivas.

Nosso “Area AI Assistant” é baseado na estrutura de agente Databricks Mosaic AI e fornece uma maneira para os vendedores consultarem e interagirem com dados em várias fontes de dados. Ele se integra a várias plataformas principais, incluindo:

1. Nossos Databricks Lakehouse internos para inteligência de conta, conteúdo de capacitação de vendas e manuais de vendas
2. Nosso sistema de plataforma de gerenciamento de relacionamento com o cliente (CRM)
3. Nossa Plataforma de Colaboração agrupa e indexa a maioria dos nossos dados não estruturados

O aplicativo AI é usado para:

• Interaja conversacionalmente com dados em diversas fontes de dados usando linguagem pure (começando com inglês)
• Capacidade de baixar e criar documentos com base nas informações coletadas
• Execute ações com base nos insights de dados (atualizar campos em nosso CRM, redigir um e-mail de prospecção de saída personalizado, criar uma proposta de cliente sob medida, preparar-se para uma reunião com o cliente, and so on.

O assistente de campo responde a prompts propagados com base no contexto do usuário e da página e também fornece uma interface semelhante a um bate-papo para consultas abertas nos conjuntos de dados mencionados acima.

Impacto nos negócios

Os vendedores normalmente ficam sobrecarregados com o quantity de informações que lhes são lançadas. Eles precisam de acesso a dados residentes em vários aplicativos isolados, como parte de sua rotina diária regular. Eles exigem acesso fácil a dados de contas, oportunidades e casos de uso que residem em nosso CRM, bem como insights de mercado do cliente e inteligência de contas, incluindo dados de consumo de contas que residem em nosso lakehouse. Além disso, eles também precisam de acesso ao conteúdo de vendas – manuais de capacitação, materiais de vendas competitivos, bem como artigos da base de conhecimento do produto e documentos de roteiro de produtos. Não se limita apenas à recuperação de dados, mas os verdadeiros ganhos de eficiência ocorrem quando as tarefas manuais repetitivas que realizam diariamente com base nos insights de dados que recuperam podem ser totalmente automatizadas. Essa é exatamente a função do assistente de IA de campo: ajudar os vendedores nas tarefas do dia a dia, incluindo recuperação de informações, destilar os insights das informações e executar ações com base nesses insights.

Visão geral da solução

Utilizando a estrutura do agente Databricks Mosaic AI, construímos um assistente de IA de campo integrando dados estruturados e não estruturados de múltiplas fontes de dados. A solução oferece uma abordagem abrangente, personalizada e sob medida para nossos vendedores, disponível sob demanda em nosso CRM. Alguns dos recursos oferecidos incluem:

Informações do cliente fornecer uma visão de 360 ​​graus da conta do cliente com:

• Notícias/insights financeiros sobre a conta
• Cenário de dados competitivo
• Consumo de produtos por linha de produtos e nuvem
• Casos de suporte ao cliente
• Principais casos de uso que geram receita
• Recomendações do vendedor sobre outros casos de uso oferecidos a clientes semelhantes

Alertas de higiene de dados

• Casos de uso que serão lançados na próxima semana/mês/trimestre
• Principais bloqueadores de casos de uso
• Casos de uso que carecem de informações importantes (ou seja, patrocinador executivo de negócios, and so on.)

Materials de vendas

• Manuais de vendas
• Garantia competitiva
• Resumo da reunião
• Apresentações de argumento de venda

Orquestrar ação

• Atualize o CRM com as próximas etapas em oportunidades ou casos de uso específicos
• Elabore um e-mail de prospecção para um novo contato de cliente
• Crie uma proposta voltada para o cliente

Nossa solução de assistente de IA de campo é construída inteiramente em nossa pilha de tecnologia Databricks. Ele permite a integração em múltiplas e diversas fontes de dados e fornece uma estrutura de infraestrutura escalonável para recuperação de dados, solicitação e gerenciamento LLM. Ele é construído usando a estrutura de agente de IA composta e oferece suporte à adição de várias ferramentas (consultas SQL, funções Python) que são governadas por nossa camada de governança do Unity Catalog.

Estrutura de agente/ferramenta

As contribuições humanas são inerentemente ambíguas; Os LLMs agora nos deram a capacidade de usar o contexto para interpretar a intenção de uma solicitação e convertê-la em algo mais determinístico. Para atender à solicitação, pode ser necessário recuperar fatos específicos, executar código e aplicar uma estrutura de raciocínio baseada em transformações previamente aprendidas. Todas essas informações devem ser remontadas em uma saída coerente e formatada corretamente para quem (ou o que quer que seja) irá consumi-la.

É exatamente isso que o assistente de campo de IA faz para responder às dúvidas dos vendedores. O assistente de IA de campo possui 1 agente driver e múltiplas ferramentas e funções que realizam o processamento determinístico.

• Base de dados: Este é o conjunto de fontes de dados com as quais o agente interage. Em nossa solução, essa base de dados inclui dados em nosso Lakehouse, materials de vendas, documentos do Google, bem como dados que residem em nosso CRM (Salesforce).
• Processamento determinístico: O conjunto de funções e ferramentas necessárias para produzir respostas corretas e de alta qualidade. O LLM pode extrair campos de uma consulta e passá-los para uma chamada de função padrão para fazer processamento determinístico. Dentro da plataforma Databricks, o Ferramentas e funções do Mosaic AI recursos permitem isso e funções definidas pelo usuário podem executar a maioria das atividades dentro do Databricks. Geralmente, podem ser funções Python ou consultas SQL simples ou APIs que se integram a aplicativos externos, como Glean, Perplexity, Aha and so on., e podem ser invocadas usando linguagem pure.
• Modelos LLM: Aproveitamos o Azure OpenAI, GPT 4 como modelo basic para a solução de assistente de IA de campo. Dito isto, a estrutura suporta uma abordagem multimodelo onde as capacidades específicas de cada modelo são avaliadas em relação à forma como lida com casos de uso específicos. Por exemplo, avaliamos nossa solução com vários modelos de código aberto e escolhemos Azure Open AI – GPT 4 como modelo para nossa solução com base na fundamentação do modelo, sua capacidade de gerar conteúdo factual e relevante, sua capacidade de escolher o direito função/ferramenta definida pelo usuário para processar cada immediate e sua capacidade de aderir ao immediate de formatação de saída de conteúdo fornecido ao modelo.

Dito isso, nossa arquitetura de solução foi projetada para permitir flexibilidade na adoção de novos modelos à medida que eles se tornam disponíveis em nossa estrutura de agente Mosaic AI.

Na Databricks, aproveitamos o Estrutura do agente Mosaic AI o que facilita a construção de um aplicativo genAI como o assistente de IA de campo. Usando essa estrutura, definimos critérios de avaliação e aproveitamos a capacidade do LLM como juiz para pontuar as respostas da inscrição. O Gateway de IA do Mosaico fornece controles de acesso, limitação de taxa, registro de carga útil e proteções (filtragem de entradas e saídas do sistema). O gateway oferece ao usuário monitoramento constante dos sistemas em execução para monitorar segurança, polarização e qualidade.

Os componentes que aproveitamos para nosso assistente de IA de campo são:

Arquitetura da Solução

Nossos aprendizados

Os dados estão confusos – Alavancou Lakehouse, expansão iterativa de conjuntos de dados, com foco em pipelines de engenharia de dados e na construção de conjuntos de dados GOLD de fonte única de verdade limpos

Medir o ROI é difícil – Esteja preparado para experimentar pequenos grupos focais no piloto. Construir conjuntos de dados de avaliação para medir a eficácia do modelo é difícil e requer esforço concentrado e uma estratégia que apoie a experimentação rápida

Governança de dados e IA é OBRIGATÓRIA – Envolva-se desde o início com as equipes de segurança empresarial, privacidade e jurídico. Crie um modelo de governança forte no Unity Catalog para os dados, bem como para os agentes e ferramentas

Conclusão

Por meio desta postagem, esperamos que você tenha aprendido sobre nossos Databricks na jornada GenAI do Databrick e como aproveitamos tecnologia como essa para ajudar nossos vendedores a serem mais eficazes. A utilização de GenAI para este caso de uso ajudou a mostrar como os agentes de IA podem transformar e auxiliar significativamente todos os aspectos da jornada do vendedor, desde a prospecção e recuperação de insights do cliente, promovendo uma melhor higiene de dados, automatizando tarefas manuais repetitivas e acionando esses insights de dados para gerar oportunidades e melhorando a velocidade de vendas.

Fique ligado em nossas próximas postagens, onde continuaremos compartilhando nossas experiências sobre como a IA está remodelando a experiência do vendedor no Databricks.