No atual cenário de IA em rápida evolução, as organizações enfrentam um desafio crítico: como aproveitar o poder transformador da IA generativa e, ao mesmo tempo, manter padrões robustos de segurança e conformidade. À medida que as empresas implementam aplicações GenAI cada vez mais sofisticadas, a necessidade de proteção abrangente em todo o ciclo de vida da IA nunca foi tão urgente.
Hoje, a Cisco tem o prazer de anunciar uma integração nativa dos guardrails de tempo de execução do Cisco AI Protection com Guarda-corpos NVIDIA NeMouma parte Software program empresarial NVIDIAreunindo duas soluções poderosas para maximizar a segurança cibernética para implantações empresariais de IA.
Por que os guardrails são importantes: a primeira linha crítica de defesa
As aplicações de IA generativa são fundamentalmente diferentes do software program tradicional. Eles são dinâmicos, probabilísticos e podem produzir resultados inesperados com base nas interações do usuário. Sem as proteções adequadas, os aplicativos GenAI podem gerar conteúdo prejudicial, tendencioso ou inapropriado, vazar informações confidenciais por meio de ataques de injeção imediata, alucinar fatos, desviar-se dos casos de uso pretendidos ou violar requisitos de conformidade regulatória.
As proteções de tempo de execução servem como mecanismos de segurança essenciais que monitoram e controlam o comportamento da IA em tempo actual. Pense neles como controladores de tráfego inteligentes que garantem que seus aplicativos de IA permaneçam dentro de limites seguros e compatíveis, ao mesmo tempo que mantêm o desempenho e a experiência do usuário. À medida que as organizações passam da experimentação de IA para implantações de produção, essas barreiras se tornam componentes inegociáveis de qualquer estratégia de IA responsável.
Os Guardrails são tão eficazes quanto seus modelos de detecção subjacentes e a frequência das atualizações feitas para capturar a inteligência de ameaças mais recente. As empresas não devem confiar nas proteções integradas criadas pelos desenvolvedores de modelos, pois elas são diferentes para cada modelo, amplamente otimizadas para desempenho em vez de segurança, e o alinhamento é facilmente quebrado quando são feitas alterações no modelo. As proteções corporativas, como as da Cisco AI Protection e NVIDIA NeMo, fornecem uma camada comum de segurança entre modelos, permitindo que as equipes de IA se concentrem totalmente no desenvolvimento.
NVIDIA NeMo Guardrails: um equipment de ferramentas líder de código aberto
NVIDIA NeMo Guardrails emergiu como uma estrutura de código aberto líder para a construção de guardrails programáveis para aplicações generativas de IA. Este poderoso equipment de ferramentas permite que os desenvolvedores definam limites de entrada e saída para interações LLM, implementem proteções de tópicos para manter as conversas no caminho certo, apliquem verificação de fatos e prevenção de alucinações e controlem o fluxo de diálogo e os padrões de interação do usuário. Como uma solução em nível de estrutura, o NeMo Guardrails fornece a base estrutural para a segurança da IA, dando aos desenvolvedores a flexibilidade para definir regras e políticas adaptadas aos seus casos de uso específicos.
A ampla adoção da estrutura em todo o setor reflete sua arquitetura robusta e sua abordagem amigável ao desenvolvedor. As organizações apreciam a capacidade de criar proteções personalizadas que se alinham aos seus requisitos de negócios exclusivos, ao mesmo tempo que aproveitam a infraestrutura e a aceleração de IA da NVIDIA.
Cisco AI Protection: uma solução abrangente de segurança de IA
As proteções de tempo de execução, embora essenciais, são apenas uma peça do quebra-cabeça de segurança da IA. O Cisco AI Protection adota uma abordagem holística à segurança de IA, protegendo as organizações em todo o ciclo de vida da IA, desde o desenvolvimento até a produção.
A AI Protection usa uma estrutura de três etapas para proteger contra riscos de segurança, proteção e privacidade da IA:
- Descoberta: faça inventário automático de ativos de IA, incluindo modelos, agentes, bases de conhecimento e armazenamentos de vetores em seus ambientes de nuvem distribuídos.
- Detecção: descubra vulnerabilidades de modelos e aplicativos, incluindo riscos da cadeia de suprimentos e suscetibilidade a jailbreaks, respostas inseguras e muito mais.
- Proteção: proteja aplicativos em tempo de execução com proteções proprietárias de segurança, proteção e privacidade, atualizadas com a mais recente inteligência contra ameaças.
A jornada de segurança não termina na implantação. O Cisco AI Protection fornece validação contínua por meio de testes contínuos para identificar novas vulnerabilidades em modelos e aplicativos. À medida que surgem novos riscos, podem ser introduzidas barreiras de proteção adicionais para os resolver ou os modelos podem ser trocados. Isso garante que os modelos implantados mantenham sua postura de segurança ao longo do tempo e continuem a atender aos padrões internos e externos.
Em vez de deixar a implementação da segurança para equipes de aplicativos individuais, as organizações podem impor controles de tempo de execução em toda a empresa que alinhem o comportamento da IA com os requisitos corporativos de segurança e conformidade. Por meio de sua integração com NVIDIA NeMo Guardrails, o Cisco AI Protection torna esses controles perfeitamente acessíveis nos fluxos de trabalho dos desenvolvedores, incorporando a segurança como uma parte nativa do ciclo de vida de desenvolvimento de IA. Esse modelo de validação contínua e proteção centralizada garante que os modelos e aplicativos implantados mantenham uma forte postura de segurança ao longo do tempo, enquanto os relatórios de vulnerabilidade traduzem as descobertas em insights claros mapeados de acordo com os padrões regulatórios e do setor.
Melhores juntos: impulsionando as defesas de segurança cibernética com a Cisco acelerada pela NVIDIA
A integração nativa do Cisco AI Protection com NVIDIA NeMo Guardrails oferece segurança cibernética poderosa para implantações empresariais de IA. Em vez de depender de uma única camada de proteção, essa integração oferece aos desenvolvedores a flexibilidade de combinar as proteções mais eficazes para cada aspecto de seus aplicativos, sejam eles focados em segurança, proteção, privacidade ou fluxo de conversação e controle de tópicos.
Ao reunir a estrutura de código aberto do NVIDIA NeMo Guardrails para definir e impor limites conversacionais e contextuais com os guardrails de tempo de execução de nível empresarial do Cisco AI Protection para proteger dados, detectar ameaças e manter a conformidade, as organizações ganham uma arquitetura modular e interoperável para proteger a IA na produção.
Essa colaboração permite que os desenvolvedores misturem e combinem proteções entre domínios, garantindo que os sistemas de IA se comportem de maneira responsável, segura e consistente, sem sacrificar o desempenho ou a agilidade. O NeMo Guardrails fornece a base para controles estruturados e personalizáveis em fluxos de trabalho de IA, enquanto o Cisco AI Protection adiciona proteção de tempo de execução continuamente atualizada, alimentada por inteligência contra ameaças em tempo actual.
Juntos, eles permitem camadas de proteção coordenadas que se estendem por todo o ciclo de vida da IA – desde como os aplicativos gerenciam informações confidenciais até como interagem com os usuários – criando uma estratégia de defesa unificada e adaptável. Com esta integração nativa, as empresas podem inovar mais rapidamente, mantendo a confiança de que os seus sistemas de IA estão protegidos pelas salvaguardas certas para cada fase da operação.
Fábrica segura de IA da Cisco com NVIDIA
Entendendo que cada organização tem requisitos de infraestrutura e políticas de segurança exclusivos, a Cisco e a NVIDIA firmaram uma parceria para fornecer uma arquitetura de referência validada para alimentar com segurança cargas de trabalho de IA no ambiente de um cliente. Oferecemos duas opções de implantação para o plano de dados: baseado na nuvem ou no native com Cisco AI PODs.
Hoje, estamos anunciando a capacidade de ordenação do Cisco AI Protection em AI PODs com nosso plano de dados implantado no native. Isso também pode ser implantado junto com NVIDIA NeMo Guardrails. Isso significa que as empresas que enfrentam requisitos rígidos de soberania de dados, mandatos de conformidade ou necessidades operacionais podem obter segurança de aplicativos de IA para implantações locais.
O caminho a seguir: inovação segura em IA
À medida que as organizações aceleram as suas jornadas de transformação da IA, a segurança não pode ser deixada de lado. A integração nativa do Cisco AI Protection com NVIDIA NeMo Guardrails, fornecida por meio do Cisco Safe AI Manufacturing unit, representa um novo padrão para segurança de IA empresarial, que não força você a escolher entre inovação e proteção.
Com essa combinação poderosa, você pode implantar aplicativos GenAI com confiança, sabendo que diversas camadas de defesa estão trabalhando em conjunto para proteger sua organização. Você pode atender aos mais rigorosos requisitos de segurança e conformidade sem sacrificar o desempenho ou a experiência do usuário. Você mantém a flexibilidade para evoluir sua infraestrutura conforme suas necessidades mudam e conforme a tecnologia de IA avança. Talvez o mais importante seja que você aproveite a experiência combinada de dois líderes do setor de IA, ambos comprometidos em tornar a IA segura e acessível para as empresas.