Nos primeiros meses desde o lançamento do Arduino UNO Q, as pessoas formaram muitas opiniões diferentes sobre ele. Alguns adoram o poder computacional aprimorado e a capacidade de executar Linux, enquanto outros acham o ambiente do App Lab confuso e restritivo. Qualquer que seja o lado da cerca em que você se encontre, uma coisa é certa: é muito diferente das placas Arduino anteriores.
Junto com a mudança veio muita incerteza sobre para que esta placa é realmente boa. Com seu coprocessador STM32H5, pode fazer todas as coisas para as quais um UNO normalmente é usado. No entanto, dado o custo further e a complexidade, você provavelmente não gostaria de usar um UNO Q para piscar alguns LEDs. Se você vai investir nesta nova placa, vai querer utilizá-la para projetos mais complexos.
Mais do que apenas LEDs piscando
Nesse sentido, Marc Pous, da Edge Impulse, acaba de demonstrar uma maneira muito interessante de usar o UNO Q que seria impensável antes da adição do processador Dragonwing. Ele escreveu um breve tutorial explicando como é possível executar LLMs — e até mesmo VLMs — localmente no quadro.
O projeto é construído em torno de yzma, um wrapper Go para llama.cpp criado por Ron Evans, conhecido por projetos como Gobot e TinyGo. yzma fornece uma interface limpa que permite aos desenvolvedores integrar inferência de alto desempenho em aplicativos Go sem se preocupar com ligações CGo. Isso fornece um caminho simplificado para executar modelos modernos de IA diretamente no ambiente Linux baseado em Debian do UNO Q.
IA no limite
O tutorial orienta os usuários na instalação do Go na placa, na configuração do yzma e na obtenção de modelos GGUF compatíveis do Hugging Face. Para inferência somente de texto, Pous demonstra o modelo compacto SmolLM2-135M-Instruct, que pesa aproximadamente 135 milhões de parâmetros. Graças à quantização e à eficiência do llama.cpp, o modelo pode ser executado localmente no sistema baseado em Arm do UNO Q, permitindo interações de chat totalmente offline.
Esta imagem foi usada para testar o VLM (📷: Marc Pous)
Ainda mais impressionante é a demonstração de um modelo multimodal: SmolVLM2-500M-Video-Instruct. Com cerca de 500 milhões de parâmetros, é pequeno para os padrões modernos de IA, mas ainda é capaz de processar imagens e entradas curtas de vídeo junto com prompts de texto. No exemplo de Pous, o quadro analisa uma foto de marcadores espalhados por uma mesa e gera uma descrição detalhada — tudo isso sem enviar dados para a nuvem.
Em vez de depender de APIs remotas, os desenvolvedores podem criar sistemas de borda preocupados com a privacidade que interpretam imagens, respondem a comandos de voz ou analisam dados de sensores localmente. Especialmente para robótica e experimentos domésticos inteligentes, a capacidade de combinar o controle do microcontrolador em tempo actual com a inferência de IA baseada em Linux abre novas possibilidades de design. Se você construir algumas de suas próprias grandes ideias com um UNO Q, certifique-se de deixe-nos saber.