Acesso LLM sem complicações
Laboratórios de aprendizagem DevNet forneça aos desenvolvedores ambientes pré-configurados no navegador para aprendizado prático — sem configuração, sem problemas ambientais. Inicie um laboratório e você estará codificando em segundos.
Agora estamos adicionando acesso LLM a essa experiência. Os produtos da Cisco são cada vez mais baseados em IA, e os alunos precisam trabalhar com os LLMs na prática, e não apenas ler sobre eles. Mas não podemos simplesmente distribuir chaves de API. As chaves vazam, são compartilhadas fora do laboratório ou estouram os orçamentos. Precisávamos de uma maneira de estender essa mesma experiência sem atrito à IA – dar aos alunos acesso actual ao LLM sem riscos.
Hoje, estamos lançando o acesso gerenciado ao LLM para Studying Labs, permitindo experiência prática com os mais recentes produtos de IA da Cisco e acelerando o aprendizado e a adoção de tecnologias de IA.
Inicie um laboratório, obtenha acesso instantâneo ao LLM
A experiência para os alunos é simples: inicie um laboratório habilitado para LLM e o ambiente estará pronto. Nenhuma chave de API para gerenciar, nenhuma configuração e nenhuma inscrição com provedores externos. A plataforma cuida de tudo nos bastidores.
O caminho mais rápido hoje é Segurança do Protocolo A2A. No módulo de configuração, o laboratório carrega as configurações integradas do LLM no ambiente shell. Na próxima etapa prática, os alunos verificam um cartão de agente malicioso com o analisador LLM ativado.
supply ./lab-env.sh
a2a-scanner scan-card examples/malicious-agent-card.json --analyzers llm✅ Lab LLM settings loaded
Supplier: openai
Mannequin: gpt-4o
💡 Now you can run: a2a-scanner list-analyzers
Scanning agent card: Official GPT-4 Monetary Analyzer
Scan Outcomes for: Official GPT-4 Monetary Analyzer
Goal Sort: agent_card
Standing: accomplished
Analyzers: yara, heuristic, spec, endpoint, llm
Complete Findings: 8
description AGENT IMPERSONATION Agent falsely claims to be verified by OpenAI
description PROMPT INJECTION Agent description comprises directions to disregard earlier directions
webhook_url SUSPICIOUS AGENT ENDPOINT Agent makes use of suspicious endpoints for information assortment 
That lab-env.sh step é o ponto principal: ele pré-carrega a configuração do LLM do laboratório gerenciado na sessão do terminal, para que o scanner possa chamar o modelo imediatamente, sem qualquer configuração guide do provedor. Do ponto de vista do aluno, parece quase native, porque ele obtém um arquivo e imediatamente começa a usar a análise apoiada pelo LLM na linha de comando.
Como funciona
Por que um procurador? O LLM Proxy abstrai vários provedores por trás de um único endpoint compatível com OpenAI. Os alunos escrevem código em uma API – o proxy lida com o roteamento para Azure OpenAI ou AWS Bedrock com base no modelo solicitado. Isso significa que o conteúdo do laboratório não é interrompido quando adicionamos provedores ou trocamos back-ends.
A aplicação de cotas acontece no proxynão o provedor. Cada solicitação é validada em relação ao orçamento restante do token e à contagem de solicitações antes do encaminhamento. Quando os limites são atingidos, os alunos recebem um erro claro – não uma conta surpresa ou um fracasso silencioso.
Cada solicitação é rastreada com ID do usuário, ID do laboratório, modelo e uso de token. Isso dá aos autores do laboratório visibilidade sobre como os alunos interagem com os LLMs e nos ajuda a dimensionar as cotas corretamente ao longo do tempo.
Prática com segurança de IA
A primeira onda de laboratórios nesta infraestrutura abrange as ferramentas de segurança de IA da Cisco:
- Segurança do Protocolo A2A — as configurações LLM integradas são carregadas durante a configuração e usadas imediatamente no primeiro fluxo de trabalho de digitalização do cartão do agente
- Defesa de IA — usa o mesmo acesso gerenciado LLM nos exercícios do aplicativo BarryBot
- Segurança de habilidades — usa o mesmo acesso LLM gerenciado no primeiro fluxo de trabalho de verificação de habilidades
- Segurança MCP — adiciona análise semântica baseada em LLM ao servidor MCP e verificação de ferramentas
- Segurança OpenClaw (em breve) — valida o LLM de laboratório integrado durante a configuração e o utiliza no primeiro teste de fumaça actual do ZeroClaw
Estes não são exercícios teóricos. Os alunos estão examinando exemplos maliciosos realistas, testando fluxos de trabalho de segurança em tempo actual e usando as mesmas ferramentas de segurança de IA da Cisco que os profissionais usam em campo.
“Queríamos que o acesso ao LLM fosse parecido com o resto dos laboratórios de aprendizagem: inicie o laboratório, abra o terminal e o acesso ao modelo já estará lá. Os alunos obtêm fluxos de trabalho práticos de IA sem precisar buscar chaves de API, e ainda mantemos os controles necessários em relação a custos, segurança e abuso. Também mantenho minha própria coleção desses laboratórios em funcionamento em cs.co/aj.” -Barry Yuan
O que vem a seguir
Estamos ampliando o Studying Labs para oferecer suporte a cargas de trabalho suportadas por GPU usando divisão de tempo NVIDIA. Isso permitirá que os alunos trabalhem na prática com os modelos de IA da própria Cisco.Fundação-sec-8b para a segurança e o Modelo de rede profunda para redes – executando localmente em seu ambiente de laboratório. Para obter detalhes técnicos sobre como estamos construindo isso, consulte nossa série sobre infraestrutura de GPU: Parte 1 e Parte 2.
Seu suggestions molda o que construiremos a seguir. Experimente os laboratórios e diga-nos o que você gostaria de ver.