21
A decisão da UE de adiar a conformidade com a Lei de IA de alto risco até 2027 dá às organizações uma margem de manobra essential, mas o relógio da conformidade ainda está a contar. Apu Pavithran, CEO da Hexnode, diz que as empresas devem agir agora para auditar os sistemas de IA, fortalecer a supervisão e usar ferramentas como o gerenciamento unificado de endpoints para atender às futuras demandas regulatórias.
Mais uma vez, a Europa está a tentar enfiar a linha mais difícil entre a inovação tecnológica e a supervisão regulamentar. Uma década depois do Regulamento Geral de Proteção de Dados (GDPR), o bloco é líder mundial na regulamentação da inteligência synthetic (IA) e na exigência de que os sistemas sejam transparentes, rastreáveis e seguros.
Apesar de aprovar a Lei AI e proibir rapidamente certos aplicativos em 2024, a UE apenas adiou a conformidade para “IA de alto risco” até o remaining de 2027. Esta é uma boa notícia para operadores industriais e administradores de rede que gerenciam sistemas habilitados para IA, porque seguir o mandato inédito é mais fácil de falar do que fazer. O atraso oferece uma margem de manobra importante, mas as equipes devem saber que o caminho para cumprir o código ainda é mais curto do que parece.
O caminho para a regulamentação
A confiança é o objetivo world deste regulamento. Em alto nível, a lei busca proteger a tomada de decisões humanas e criar barreiras de proteção em meio à automação. A IA não é uma solução única para todos e nem o primeiro regulamento que tenta governá-la. Em vez disso, o bloco está a adoptar uma abordagem escalonada baseada no risco.
Por exemplo, o nível mais alto foi promulgado imediatamente e agora proíbe práticas que incluem pontuação social, manipulação e engano baseados em IA e reconhecimento de emoções nos locais de trabalho e na educação.
O próximo nível de implementação no horizonte – sistemas de alto risco – inclui a IA que representa sérios riscos para a saúde, a segurança ou os direitos fundamentais. Governa uma ampla gama de áreas, incluindo biometria, infraestrutura crítica, decisões de emprego e serviços essenciais. Os fornecedores (criadores) de tais sistemas devem, portanto, demonstrar conformidade em todos os dados de formação, registos técnicos e gestão de riscos.
Além disso, os implantadores (usuários) também estão em risco.
As empresas que utilizam a IA a título profissional – mesmo que não a tenham construído – devem garantir pessoal de supervisão competente, monitorização do desempenho e relatórios de incidentes de 15 dias. As multas aplicam-se a ambos os lados da equação, com penalidades até 15 milhões de euros ou 3% do quantity de negócios world por incumprimento de alto risco.
Um relógio para conformidade
O cronograma, assim como o próprio regulamento, é ambicioso. O bloco esperava estar pronto até agosto, mas, no remaining de março, solicitou mais tempo. Isto acontece porque a maioria dos Estados-Membros ainda não criou autoridades de execução e as orientações oficiais continuam aquém do Gabinete de IA. Os reguladores também precisaram de mais tempo e deram-se até ao remaining do próximo ano para colocar tudo on-line. Isso não significa que as empresas devam esperar. Em vez disso, o relógio da conformidade ainda está correndo e as empresas precisam reescrever os processos e registrá-los do início ao fim.
Os líderes podem e devem olhar para a última década para ter uma ideia do que está por vir. As empresas europeias gastaram em média 1,3 milhões de euros preparando-se para o GDPR e, ainda, cerca de um terço não tinham certeza se sua pilha estava pronta antes do início da aplicação. A IA sem dúvida estabelece um padrão ainda mais alto a ser superado porque esses sistemas inteligentes vivem em frotas de dispositivos, infraestrutura de borda e terminais de rede. As equipes precisam de visibilidade em todo o ecossistema antes de poder classificá-los, auditá-los e monitorá-los.
Também vale lembrar que, além da conformidade, seguir as novas regras de automação pode contribuir muito para proteger a reputação da empresa. Air Canadá aprendi isso da maneira mais difícil quando seu chatbot “alucinou” e falsificou informações sobre tarifas, levando a ações legais. De acordo com a Lei da IA, tais incidentes desencadeiam relatórios obrigatórios se a desinformação resultar em danos graves. Tudo isso exige que as empresas tenham o controle de seu ecossistema e das ferramentas inteligentes que operam nele.
As empresas precisam mudar agora
A conformidade regulatória e as dores iniciais geralmente andam de mãos dadas. É por isso que as empresas precisam de aproveitar este tempo adicional e reavaliar imediatamente a sua pegada digital.
Audite o ecossistema e entenda quais partes dele a automação afeta. Muitas organizações não têm um inventário claro de quais endpoints estão executando aplicativos habilitados para IA (manutenção preditiva, provisionamento automatizado, ferramentas de otimização de rede) e devem começar aqui. As plataformas de gerenciamento unificado de endpoints (UEM) fornecem visibilidade centralizada sobre o que está implantado e onde, standing do patch e linhas de base de configuração. Além disso, a UEM automatiza a documentação e o registro de conformidade esperados pelos reguladores. As equipes também podem dar um passo adiante ao incorporar detecção e resposta estendida (XDR) para detectar e responder ao que está acontecendo em tempo actual.
Crie também uma cadeia de comando clara para controle de qualidade e detecção de incidentes. A lei exige o humano no meio e, portanto, exige a atribuição de pessoal competente, a documentação da sua formação e o estabelecimento de caminhos de escalada. Os reguladores querem essencialmente ver que você não está apenas implementando IA e deixando tudo por conta da máquina. Mostre seu pensamento e crie redundâncias.
A Europa é frequentemente um indicador de regulamentação e vale a pena observar esta lei, mesmo que a sua empresa não seja afetada. O bloco reconhece que a IA veio para ficar, mas (com razão) recusa-se a permitir que a sua aplicação prossiga sem algumas regras básicas. As empresas de todo o mundo deveriam analisar atentamente o que isto implica e considerar como antecipar-se agora pode significar cumprir as regras futuras e proteger as reputações de amanhã.
Apu Pavithran é o fundador e CEO da Hexnodouma solução de gerenciamento de endpoint líder do setor que fornece um conjunto abrangente de recursos para proteger, gerenciar e monitorar remotamente dispositivos em toda a empresa. Apu é um consultor, palestrante e líder inovador reconhecido na comunidade de gerenciamento de TI, com foco em governança e segurança da informação.