Introdução
O ritmo a que as aplicações de inteligência synthetic estão a evoluir continua a impressionar. As empresas que antes consideravam tirar partido das sofisticadas capacidades preditivas e de linguagem pure da IA estão agora a avaliar a adoção de sistemas de IA que tenham a capacidade de aceder a dados internos, tomar decisões complexas e ter elevados níveis de autonomia.
À medida que continuamos a expandir os limites da IA, é importante manter em mente um conceito elementary de segurança da informação: quanto mais poderoso e capaz for um sistema, mais atraente será o alvo para os adversários. Oitenta e seis por cento das empresas relataram ter experimentado um Incidente de segurança relacionado à IA no ano passado; o quantity de ataques só aumentará a partir daqui.
Introduzimos o Cisco AI Protection para proteger as empresas contra o cenário complexo e dinâmico do risco de IA. Uma das características definidoras deste cenário é a rapidez com que ele está evoluindo, à medida que pesquisadores e invasores descobrem novas vulnerabilidades e técnicas para quebrar a IA. Ao contrário das vulnerabilidades de software program tradicionais que podem ser resolvidas através de patches convencionais, os ataques de IA exploram a natureza elementary do processamento de linguagem pure, tornando impossível a prevenção de dia zero com as abordagens existentes. Esta realidade exigiu que mudássemos do conceito de desenvolvimento de imunidade garantida para a minimização de riscos através de defesa em vários níveis, melhor observabilidade e capacidades de resposta rápida. É por isso que nossa equipe desenvolveu um sistema abrangente de vários estágios que transforma a inteligência de ameaças de IA em proteções de IA ativas e integradas no produto, com velocidade e segurança.
Neste weblog, percorreremos os estágios dessa estrutura, expandindo seu impacto e importância e, ao mesmo tempo, compartilhando um exemplo concreto de uma dessas ameaças que rapidamente operacionalizamos.
Nossa Estrutura
Em alto nível, existem três fases distintas em nosso sistema dinâmico de segurança de IA: operações de inteligência contra ameaças, correlação unificada de dados e plataforma de lançamento. Cada etapa é cuidadosamente projetada para equilibrar velocidade, precisão e estabilidade, garantindo que as empresas que usam o AI Protection se beneficiem de proteções oportunas e sem atrito.
Coletando inteligência de ameaças de IA
As operações de inteligência contra ameaças são a primeira linha de defesa em nosso sistema de resposta rápida, monitorando continuamente a Web e fontes não públicas em busca de ameaças relacionadas à IA. Este sistema transforma a inteligência bruta sobre ataques e vulnerabilidades em proteções acionáveis por meio de um pipeline que enfatiza a automação, a priorização e o rápido desenvolvimento de assinaturas.
Embora coletemos informações de diversas fontes – artigos acadêmicos, feeds de segurança, pesquisas internas e muito mais – é efetivamente impossível prever quais ataques realmente aparecerão em estado selvagem. Para ajudar a priorizar nossos esforços, empregamos um algoritmo que examina vários fatores, como características de prioridade (por exemplo, tipos ou modelos de ataque), viabilidade de implementação, praticidade do ataque e semelhança com ataques conhecidos. As ameaças prioritárias são avaliadas por analistas humanos auxiliados por LLMs, e as assinaturas de detecção são finalmente desenvolvidas.
Nosso desenvolvimento exclusivo depende das regras YARA e do treinamento mais profundo do modelo de ML. Em termos simples, isso nos dá um caminho para liberar proteções oportunas para ameaças recém-identificadas, enquanto trabalhamos nos bastidores em defesas mais profundas e abrangentes.
Consolidando uma plataforma central de dados
O objetivo da nossa plataforma de dados é fornecer um native único para todo o armazenamento, agregação, enriquecimento, rotulagem e tomada de decisões de dados. As informações de diversas fontes são sistematicamente agregadas e correlacionadas em um knowledge lake, garantindo uma análise abrangente de artefatos por meio da representação de dados consolidados. Esses dados incluem telemetria do cliente quando permitido, conjuntos de dados disponíveis publicamente, rótulos gerados por humanos e modelos, traduções imediatas e muito mais.
A principal vantagem desse armazenamento de dados consolidado é que ele fornece uma fonte única e centralizada de verdade para todos os nossos fluxos de trabalho subsequentes relacionados a ameaças, como análise humana, rotulagem de dados e treinamento de modelos.
Implementando proteções prontas para produção
Um dos desafios mais significativos na criação de um sistema de detecção e bloqueio de ameaças como nossos guardrails de IA é atualizar os componentes de detecção após o lançamento. Mudanças imprevistas nas distribuições de detecção podem gerar níveis catastróficos de falsos positivos e impactar a infraestrutura crítica do cliente. Projetamos nossa plataforma especificamente com esses riscos em mente, usando três componentes – assinaturas de ameaças, modelos de detecção de ML e lógica de detecção avançada – para equilibrar velocidade e segurança.
Nossa arquitetura de plataforma de lançamento oferece suporte a implantações simultâneas de diversas versões imutáveis de guardrails na mesma implantação. Em vez de atualizar e substituir imediatamente os guarda-corpos existentes, uma nova versão é lançada juntamente com a anterior. Essa abordagem permite uma transição gradual do cliente e mantém um procedimento de reversão simplificado, sem as complexidades de um ciclo de lançamento convencional.
Como essas “implantações paralelas” não podem impactar os sistemas de produção, elas permitem que nossa equipe verifique de forma segura e completa as regressões de detecção em vários lançamentos de versões. Isso significa que quando implementamos essas proteções na produção, podemos ter confiança em sua confiabilidade e eficácia.
A importância da segurança dinâmica de IA
Assim como a própria tecnologia de IA continua a evoluir a um ritmo vertiginoso, o mesmo acontece com o cenário de ameaças e vulnerabilidades da IA. Para adotar e inovar com aplicações de IA com confiança, as empresas precisam de um sistema de segurança de IA que seja dinâmico o suficiente para mantê-las seguras.
A arquitetura integrada do Cisco AI Protection usa três plataformas interdependentes para abordar o ciclo de vida completo de resposta a ameaças. Com operações sofisticadas de inteligência contra ameaças, uma plataforma de dados consolidada e um processo de lançamento criterioso, equilibramos velocidade, segurança e eficácia para a segurança de IA. Vejamos um exemplo actual de um desses lançamentos.
Um ataque adaptativo misto multilíngue para sistemas de IA conhecido como “Ataque Sanduíche” foi lançado no arXiv em 9 de abril. Em três dias, em 12 de abril, essa técnica já havia sido integrada ao nosso pipeline de inteligência contra ameaças cibernéticas – novos exemplos de ataque foram adicionados à Validação de IA e lógica de detecção adicionada ao AI Runtime Safety. Em 26 de abril, aproveitamos com sucesso esse mesmo ataque ao testar os modelos de um cliente.
A análise do ataque sanduíche foi posteriormente compartilhada em uma edição mensal do weblog Cisco AI Cyber Risk Intelligence Roundup. Expandindo a técnica authentic, a pesquisa interna da Cisco levou a uma nova iteração conhecida como Ataque Sanduíche Modificado, que nos permitiu adaptar-nos a casos de uso personalizados, combiná-los com outras técnicas e expandir ainda mais a cobertura do produto.
Um artigo completo detalhando nossa estrutura dinâmica de proteção de IA já está disponível em arXiv. Você pode saber mais sobre o Cisco AI Protection e ver nossos recursos de detecção de ameaças de IA em ação visitando nosso página do produto e agendando horário com um especialista da nossa equipe.