As equipes de software program em todo o mundo agora contam com agentes de codificação de IA para aumentar a produtividade e agilizar a criação de código. Mas a segurança não acompanhou. O código gerado por IA muitas vezes carece de proteções básicas: padrões inseguros, falta de validação de entrada, segredos codificados, algoritmos criptográficos desatualizados e dependência de dependências de fim de vida são comuns. Estas lacunas criam vulnerabilidades que podem ser facilmente introduzidas e muitas vezes não são controladas.
A indústria precisa de uma abordagem unificada, aberta e independente de modelo para proteger a codificação de IA.
Hoje, a Cisco está abrindo o código-fonte de sua estrutura para proteger código gerado por IA, internamente conhecida como Projeto CodeGuard.
O Challenge CodeGuard é uma estrutura de segurança que cria regras seguras por padrão em fluxos de trabalho de codificação de IA. O Challenge CodeGuard oferece um conjunto de regras orientado pela comunidade, tradutores para agentes de codificação de IA populares e validadores para ajudar as equipes a aplicar a segurança automaticamente. Nosso objetivo: tornar a codificação segura de IA o padrão, sem atrasar os desenvolvedores.
Projeto CodeGuard foi projetado para se integrar perfeitamente em todo o ciclo de vida de codificação de IA. Antes da geração do código, regrapode sere usado para o design de um produto e para desenvolvimento orientado por especificaçõesEnt. Você poden use as regras na “fase de planejamento” de um agente de codificação de IA para orientar os modelos em direção a padrões seguros desde o início. Durante código geração, as regras podem hajuda Agentes de IA para prevenir questões de segurança enquanto o código está sendo escrito. Depois código geração, Agentes de IA como Cursor, Copiloto GitHub, Codex, Windsurf, e Claude Code podem usar o regras para revisão de código.
Estas regras podem ser utilizadas antes, durante e depois da geração do código. Eles podem ser usados na fase de planejamento do agente de IA ou para tarefas iniciais de engenharia orientadas por especificações. As regras do Challenge CodeGuard também podem ser usadas para evitar a introdução de vulnerabilidades durante a geração do código. Eles também podem ser usados por agentes automatizados de IA de revisão de código.
Por exemplo, uma regra focada na validação de entrada pode funcionar em vários estágios: pode sugerir padrões seguros de manipulação de entrada durante a geração de código, sinalizar o processamento de entrada de usuário ou agente de IA potencialmente inseguro em tempo actual e, em seguida, validar se a lógica adequada de higienização e validação está presente no código remaining. Outra regra direcionada ao gerenciamento de segredos poderia impedir a geração de credenciais codificadas, alertar os desenvolvedores quando padrões de dados confidenciais forem detectados e verificar se os segredos são externalizados adequadamente usando o gerenciamento de configuração seguro.
Essa metodologia de vários estágios garante que as considerações de segurança sejam integradas em todo o processo de desenvolvimento, em vez de serem uma reflexão tardia, criando múltiplas camadas de proteção e, ao mesmo tempo, mantendo a velocidade e a produtividade que tornam as ferramentas de codificação de IA tão valiosas.
Observação: essas regras orientam os agentes de codificação de IA em direção a padrões mais seguros e longe de vulnerabilidades comuns por padrão. Eles não garantem que qualquer saída seja segura. Devemos sempre continuar a aplicar práticas padrão de engenharia segura, incluindo revisão por pares e outras práticas recomendadas de segurança comuns. Trate o Challenge CodeGuard como uma camada de defesa profunda; não é um substituto para julgamento de engenharia ou obrigações de conformidade.
O que estamos lançando na v1.0.0
Estamos lançando:
- Regras básicas de segurança baseadas nas melhores práticas e orientações de segurança estabelecidas (por exemplo, OWASP, CWE, and so forth.)
- Scripts automatizados que atuam como tradutores de regras para agentes comuns de codificação de IA (por exemplo, Cursor, Windsurf, GitHub Copilot).
- Documentação para ajudar contribuidores e adotantes a começar rapidamente
Roteiro e como se envolver
Este é apenas o começo. Nosso roteiro inclui a expansão da cobertura de regras em linguagens de programação, a integração de plataformas adicionais de codificação de IA e a construção de validação automatizada de regras. As melhorias futuras incluirão tradução automatizada adicional de regras para novas plataformas de codificação de IA à medida que surgirem, e sugestões de regras inteligentes baseadas no contexto do projeto e na pilha de tecnologia. A automação também ajudará a manter a consistência entre diferentes agentes de codificação, reduzirá a sobrecarga de configuração handbook e fornecerá ciclos de suggestions acionáveis que melhoram continuamente a eficácia das regras com base nos padrões de uso da comunidade.
O Projeto CodeGuard prospera com a colaboração da comunidade. Quer você seja um engenheiro de segurança, um especialista em engenharia de software program ou um pesquisador de IA, há diversas maneiras de contribuir:
- Envie novas regras: ajude a expandir a cobertura para linguagens, estruturas ou lessons de vulnerabilidade específicas
- Crie tradutores: crie integrações para suas ferramentas de codificação de IA favoritas
- Compartilhe comentários: relate problemas, sugira melhorias ou proponha novos recursos
Pronto para começar? Visite nosso Repositório GitHub e junte-se à conversa. Juntos, podemos tornar a codificação assistida por IA segura por padrão.