De Zero a Genai Hero: Construindo seu aplicativo Genai com Huggingface e Databricks

Databricks apresentado no ano passado Databricks Appsconcluindo seu conjunto de ferramentas que permitem aos usuários criar e implantar aplicativos diretamente na plataforma Databricks. Com os aplicativos Databricks, os desenvolvedores podem criar e iniciar dados e aplicativos de IA mais rapidamente, mais segura e com integração perfeita no Databricks Knowledge Intelligence Platform. Suportando estruturas populares, implantação sem servidor e governança interna, os aplicativos Databricks foram projetados para simplificar e acelerar o desenvolvimento de soluções de IA impactantes.

Neste guia, mostraremos como aproveitar o poder do Catálogo de Genai e Unidade para criar e implantar aplicativos de IA personalizados que possam transformar seus negócios. Usando modelos de rosto abraçados, Catálogo de unidadesAplicativos de porção de modelos e Databricks, examinaremos a criação e a implantação de um aplicativo GENAI pronto para produção-não é necessária uma experiência avançada de desenvolvimento de aplicativos na internet. No closing deste tutorial, você aprenderá como desbloquear o potencial de seus dados no catálogo de unidades e transformar modelos complexos de IA em aplicativos práticos e prontos para os negócios que impulsionam a produtividade e a inovação.

Como exemplo, criamos um aplicativo Genai que combina duas entradas: uma imagem e um immediate de texto. Com o poder da IA ​​generativa, o aplicativo transformou a imagem unique com base no immediate, produzindo uma saída visible exclusiva e personalizada.

Nas seções abaixo, guiaremos você passo a passo através do processo:

• Carregando imagens em um quantity gerenciado pelo catálogo da unidade
• Registrando um modelo de rosto abraçando no catálogo de unidades usando MLFlow
• Implantando o modelo com porção de modelo
• Desenvolvendo um aplicativo Databricks e incorporando o modelo

Nota: Atualmente, os aplicativos Databricks estão em pré -visualização pública e ainda não estão disponíveis em sua região. Para disponibilidade, verifique aqui.

Carregue a imagem de exemplo para o quantity:

Em Databricks, O quantity é um catálogo de unidade Objeto que fornece armazenamento governado para dados não tabulares (como arquivos, imagens ou documentos). Ele permite que as organizações armazenem, acessem e compartilhem vários tipos de dados, mantendo a governança e o controle centralizados.

Para o nosso exemplo, baixaremos uma imagem de abraçar o rosto e, como estamos manipulando imagens, salvaremos em um quantity de Databricks:

A imagem de exemplo pode ser vista abaixo:

Registre o modelo do HuggingFace no catálogo de unidades com MLFlow:

Primeiro, precisamos selecionar um modelo no Huggingface que possa gerar imagens com base em uma imagem de immediate e uma entrada. Vamos escolher o modelo de decodificador Kandinsky 2-2 (https://huggingface.co/docs/diffusers/en/using-diffusers/img2img#image-to-image).

Em seguida, podemos registrar nosso modelo no catálogo da unidade usando o MLFlow. Vamos usar o mlflow pyfunc Sabor para criar uma classe personalizada, que servirá como nossa embalagem de modelos:

Adicionamos duas funções (image_to_base64 e base64_to_image) para a classe para codificar e decodificar imagens. Eles são necessários porque não podemos analisar Pil imagens em JSON Para enviar nossa opinião ao nosso modelo implantado.

Depois de preparar nossa classe, registraremos e registraremos o modelo no catálogo da unidade. O modelo esperará um quadro de dados que contém parâmetros, o immediate e a imagem como entrada. Criamos um exemplo de entrada usando nossa imagem enviada anteriormente em nosso quantity.

Depois de registrar nosso modelo no catálogo de unidades, agora estamos prontos para enfrentar a etapa essential da implantação através da porção do modelo. A próxima seção o guiará através da transformação do seu modelo em um serviço pronto para a produção capaz de lidar com solicitações de previsão em tempo actual em escala.

Implante o modelo com o modelo de porção:

Modelo Serviço no Databricks é um serviço totalmente gerenciado que permite implantar modelos de aprendizado de máquina como APIs REST. Isso os torna facilmente acessíveis para previsões em tempo actual, sem se preocupar com a infraestrutura ou escala subjacente. Para saber mais, consulte o recurso disponível neste hyperlink.

Implantamos um modelo registrado no catálogo de unidades com o Mannequin Serving:

• Manualmente, usando a interface do usuário: Navegue até o seu modelo no catálogo de unidades e clique em “Sirva este modelo”
• Ou, podemos fazer isso através da API, conforme mostrado no código abaixo

O processo de construção do ponto de extremidade que atende o modelo será iniciado. Uma vez em funcionamento, podemos navegar para a seção “Modelo de servir” e clicar no terminal para obter os detalhes da conexão.

Em seguida, podemos começar a criar nossos aplicativos Databricks.

Desenvolvimento de aplicativos Databricks

Databricks Apps é um novo recurso (verifique a documentação aqui) projetado para simplificar a criação e implantação de aplicativos da Net na plataforma Databricks. Com os aplicativos Databricks, os profissionais podem criar aplicativos que alavancam dados, modelos e governança já existentes em bancos de dados sem a necessidade de gerenciar uma infraestrutura separada. Os aplicativos Databricks fornecem flexibilidade, permitindo que você construa o entrance finish do seu aplicativo com a estrutura de escolha: Sprint, Shiny, Gradio, Streamlit ou Flask.

Para começar a criar o aplicativo em sua plataforma de banco de dados com base nisso página:

1. Navegue para calcular> aplicativos em sua plataforma Databricks.
2. Clique em “Criar aplicativo”. Deixe as configurações avançadas vazias por enquanto, pois o preencheremos mais tarde seção.

Em seguida, configure seu ambiente de aplicativo:

1. Vá para o seu perfil de usuário e crie uma nova pasta para o seu aplicativo.
   • Esta pasta conterá seu código de aplicativo e quaisquer dependências adicionais.
2. Nesta pasta, crie:
   • Um arquivo chamado essential.py:
     • No Foremost.Py, usaremos um token de acesso pessoal (PAT) para acessar o modelo que serve terminal, recuperando -o com segurança de um “escopo secreto” criado através da CLI Databricks, em vez de exibi -lo diretamente.
     • Para encontrar instruções sobre como registrar um segredo usando o Databricks CLI, navegue aqui.
   • Um nome de arquivo requisitos.txt:
     • Este arquivo lista as bibliotecas e pacotes externos necessários para que nosso código funcione corretamente.
     • Você pode encontrar mais informações sobre isso neste hyperlink

Agora que concluímos a configuração, prosseguiremos com a criação do código para o nosso WebApp.

Vamos mergulhar nos componentes críticos de nosso aplicativo:

O back-end: lidando com interações com volumes de catálogo de unidades

O código a seguir outline uma função, query_image_from_volume ()que recupera um arquivo de imagem de um quantity de Databricks. Ele usa o Databricks SDK Para autenticar e baixar o arquivo de imagem, abre -o usando a PIL (Python Imaging Library) e converte -o em formato RGB. A função configura as variáveis ​​de ambiente necessárias, incluindo um token secreto para autenticação, antes de buscar e processar a imagem.

Integração de terminais do modelo: Consultando nosso modelo de IA para previsões

Abaixo, definimos uma função query_model_endpoint que prepara e envia uma solicitação para o nosso Mannequin Endpoint (implantado anteriormente com o porção de modelo) para geração de imagens. Ele pega uma imagem de entrada, converte -a em Base64 (porque uma imagem PIL não pode ser diretamente serializada no JSON), constrói um quadro de dados com vários parâmetros, incluindo a imagem e os avisos, e envia esses dados como uma carga útil JSON para o URL do Mannequin Endpoint. Por fim, processa a resposta convertendo os dados de imagem Base64 retornados em um objeto de imagem RGB para que possamos visualizar o resultado em nosso aplicativo.

O URL do seu modelo pode ser encontrado na interface do usuário do modelo, clicando no seu modelo implantado.

Desenvolvimento front-end: Combinando funcionalidade de back-end e consultas de modelo em uma interface de usuário

Nesta seção, criamos uma interface gradio para o nosso aplicativo Genai que transforma imagens com base na entrada do usuário. Ele configura um structure com um logotipo, título, caixa de texto de entrada para descrição do caractere e duas exibições de imagem (antes e depois da transformação), juntamente com os botões para executar a transformação e limpar as entradas. A interface conecta a entrada do usuário à nossa função query_model_endpoint definida anteriormente, que processa a entrada e gera os resultados, que serão exibidos no componente de imagem “após”.

Se você deseja adicionar fotos ou logs ao seu webapp, poderá criar outra pasta (chamada “estático“Em nosso código acima) dentro do mesmo diretório para armazenar as fotos (como fizemos aqui estático/databrickslogo_full3.png).

Implantação: colocando nosso aplicativo em funcionamento

Este snippet de código é normalmente usado no closing de um script de aplicativo gradio. Ele verifica se o script está sendo executado diretamente (não importado como um módulo) usando o if __name__ == “__main__”: condição. Se verdadeiro, ele inicia a interface gradio definida no objeto de demonstração. O aplicativo é inicialmente implantado no host native. Se você quiser torná -lo acessível através de um URL público, terá que adicionar compartilhar = true no lançamento ().

Com o nosso aplicativo Databricks desenvolvido e pronto para implantação, criamos com sucesso uma interface poderosa e interativa para o nosso modelo Genai. No entanto, antes que possamos liberar seu potencial, devemos abordar um aspecto essential de gerenciamento de aplicativos: permissões.

Na próxima seção, exploraremos como conceder as permissões necessárias ao diretor do serviço por trás do nosso aplicativo Databricks, garantindo que ele tenha o nível certo de acesso para desempenhar suas funções com segurança e eficácia.

Databricks Apps Permissões:

Você pode encontrar o nome do diretor do serviço na interface do usuário do aplicativo, nos recursos do aplicativo da seção. Uma vez identificado, conceda as seguintes permissões ao diretor do serviço:

• Token de acesso pessoal:
  • Conceder Pode ler permissão para permitir que o diretor do serviço acesse o token registrado
  • Seguindo as instruções neste hyperlinkvocê pode conceder acesso diretamente à interface do usuário:
    • Clique em Editar, configurações avançadas, o tipo de recurso “Secret” e o escopo e a chave secreta em que você registrou seu token.
    • Para fazer referência ao segredo no código do seu aplicativo, use o valor do campo Nome (token em nosso exemplo) para consultar o valor da chave configurado e salvar.
• Acesso ao quantity:
  • Atribuir Read_volume Permissão para permitir o acesso a fotos armazenadas em seu quantity.
  • Através da interface do usuário do quantity:
    • No seu quantity, clique Permissões e selecione Conceder
• Modelo Servindo terminal:
  • Fornecer Pode usar Permissão para o modelo anteriormente implantado em porções de modelo.
  • Através do modelo que serve a interface do usuário:
    • Na página do seu modelo, clique Permissões

Para implantar nosso WebApp, navegue até a interface do usuário do WebApp e clique em Implantar. Em seguida, selecione a pasta onde seu essential.py está localizado. Isso implantará seu código em um contêiner isolado. A implantação inicial do aplicativo pode exigir vários minutos para ser concluída. Depois que o processo conclui e o indicador de standing exibe “Correndo“Seu aplicativo é totalmente implantado e operacional.

Após a implantação bem -sucedida, você terá acesso a uma interface de usuário totalmente funcional e interativa em um aplicativo da Net que utiliza o modelo Kandinsky. Para iniciar seu aplicativo:

1. Navegue até a seção de computação em seu espaço de trabalho de banco de dados
2. Localize e clique no nome do seu aplicativo
3. Encontre o indicador de standing “em execução”
4. Clique no hyperlink adjacente para abrir seu aplicativo

Aqui estão os resultados do nosso exemplo em nosso aplicativo Databricks:

Comece com os aplicativos Databricks

Como demonstrado, as etapas são claras e diretas. A maior parte do trabalho é realizada na plataforma de inteligência do Databricks, reduzindo significativamente o tempo de complexidade e desenvolvimento. Essa abordagem permite que você implante seu modelo de maneira rápida e simplesmente em um aplicativo da Net sem servidor sem os obstáculos tradicionais do gerenciamento de infraestrutura.

Esperamos que você tenha encontrado este tutorial útil enquanto encerramos essa jornada. Incentivamos você a explorar ainda mais esses recursos e ver como eles podem acelerar suas iniciativas de IA. Com a ajuda disso weblogvocê pode levar seu aplicativo para o próximo nível, ajustando o modelo, permitindo que você personalize seu aplicativo ainda mais para atender aos seus requisitos específicos. Essa personalização permitirá que você crie soluções de IA que são realmente adaptadas às necessidades da sua organização, potencialmente revolucionando seus processos de negócios e impulsionando a inovação.

Desejamos a você sucesso na construção de seu próprio aplicativo da Net da Genai e estamos animados em ver os fantásticos aplicativos da Net Genai que você criará!