
Um novo padrão world foi lançado para ajudar as organizações a gerenciar riscos de integrar grandes modelos de linguagem (LLMs) em seus sistemas e abordar as ambiguidades em torno desses modelos.
O estrutura oferece diretrizes para diferentes fases do ciclo de vida de Mestrado em Direitoabrangendo “desenvolvimento, implantação e manutenção”, de acordo com a World Digital Expertise Academy (WDTA), que divulgou o documento na sexta-feira. A organização não governamental (ONG) sediada em Genebra opera sob as Nações Unidas e foi criada no ano passado para impulsionar o desenvolvimento de padrões no reino digital.
Também: Compreendendo o RAG: Como integrar LLMs de IA generativa com seu conhecimento empresarial
“O padrão enfatiza uma abordagem multicamadas para segurança, abrangendo rede, sistema, plataforma e aplicação, modelo e camadas de dados”, disse a WDTA. “Ele alavanca conceitos-chave como o Lista de materiais de aprendizado de máquina, arquitetura de confiança zeroe monitoramento e auditoria contínuos. Esses conceitos são projetados para garantir a integridade, disponibilidade, confidencialidade, controlabilidade e confiabilidade dos sistemas LLM em toda a sua cadeia de suprimentos.”
Denominado padrão AI-STR-03, o novo framework visa identificar e avaliar os desafios da integração inteligência synthetic (IA) tecnologias, especificamente LLMs, dentro dos ecossistemas de TI atuais, disse a WDTA. Isso é essencial, pois esses modelos de IA podem ser usados em produtos ou serviços operados whole ou parcialmente por terceiros, mas não gerenciados por eles.
Também: Líderes empresariais estão perdendo a fé em TI, de acordo com este estudo da IBM. Aqui está o porquê
Requisitos de segurança relacionados à estrutura do sistema de LLMs — chamados de requisitos de segurança da cadeia de suprimentos, abrangem requisitos para a camada de rede, camada do sistema, camada de plataforma e aplicação, camada de modelo e camada de dados. Eles garantem que o produto e seus sistemas, componentes, modelos, dados e ferramentas sejam protegidos contra adulteração ou substituição não autorizada durante todo o ciclo de vida dos produtos LLM.
A WDTA disse que isso envolve a implementação de controles e monitoramento contínuo em cada estágio da cadeia de suprimentos. Ele também aborda vulnerabilidades comuns na segurança de middleware para evitar acesso não autorizado e salvaguardas contra o risco de envenenamento de dados de treinamento usados por engenheiros. Ele ainda reforça uma arquitetura de confiança zero para mitigar ameaças internas.
“Ao manter a integridade de cada estágio, desde a aquisição de dados até a implantação do fornecedor, os consumidores que usam LLMs podem garantir que os produtos LLM permaneçam seguros e confiáveis”, disse a WDTA.
Os requisitos de segurança da cadeia de suprimentos da LLM também abordam a necessidade de disponibilidade, confidencialidade, controle, confiabilidade e visibilidade. Eles trabalham coletivamente para garantir que os dados transmitidos ao longo da cadeia de suprimentos não sejam divulgados a indivíduos não autorizados, estabelecendo, em última análise, a transparência, para que os consumidores entendam como seus dados são gerenciados.
Ele também fornece visibilidade da cadeia de suprimentos para que, por exemplo, se um modelo for atualizado com novos dados de treinamento, o standing do modelo de IA — antes e depois da adição dos dados de treinamento — seja devidamente documentado e rastreável.
Abordando a ambiguidade em torno dos LLMs
A nova estrutura foi elaborada e revisada por um grupo de trabalho que compreende várias empresas e instituições de tecnologia, incluindo Microsoft, Google, Meta, Cloud Safety Alliance Larger China Area, Nanyang Technological College em Cingapura, Tencent Cloud e Baidu. De acordo com a WDTA, é o primeiro padrão internacional que atende à segurança da cadeia de suprimentos de LLM.
Também: A transparência está extremamente ausente em meio ao crescente interesse pela IA
A cooperação internacional em padrões relacionados à IA é cada vez mais essential à medida que a IA continua avançando e impactando vários setores no mundo todo, acrescentou a WDTA.
“Alcançando IA confiável é um esforço world, exigindo a criação de ferramentas e processos de governança eficazes que transcendam as fronteiras nacionais”, disse a ONG. “A padronização world desempenha um papel essential neste contexto, fornecendo uma through essencial para promover o alinhamento nas melhores práticas e na interoperabilidade dos regimes de governança de IA.”
O estrategista de tecnologia da Microsoft, Lars Ruddigkeit, disse que a nova estrutura não pretende ser perfeita, mas fornece a base para um padrão internacional.
“Queremos estabelecer qual é o mínimo que deve ser alcançado”, disse Ruddigkeit. “Há muita ambiguidade e incerteza atualmente em torno de LLMs e outras tecnologias emergentes, o que torna difícil para instituições, empresas e governos decidirem o que seria um padrão significativo. O padrão de cadeia de suprimentos WDTA tenta colocar esta primeira estrada para um futuro seguro no caminho certo.”