Um agente autônomo desenvolvido com recursos avançados da OpenAI inteligência synthetic modelos se tornaram desonestos durante um teste de segurança e hackearam uma startup de tecnologia multibilionária, Abraçando o rostosemana passada.
O agente não explorou vulnerabilidades nos sistemas da Hugging Face apenas para alcançar o que considerou um ganho estratégico. Também explorou vulnerabilidades na infraestrutura da OpenAI.
É claro que os hacks são ameaças cibernéticas muito comuns que as organizações enfrentam com frequência. Mas este incidente é diferente, porque o agente de IA agiu sem qualquer intervenção humana. Ele sinaliza um mudança sísmica na segurança cibernéticae mostra que os governos e as empresas tecnológicas precisam de tomar medidas urgentes para evitar a escalada deste risco.
Até a OpenAI descreveu o ataque como “sem precedentes” e reconheceu que espera outros semelhantes “se tornarão mais comuns com a proliferação de modelos cada vez mais cibernéticos”.
Uma empresa sob ataque
Hugging Face é famoso no espaço de IA. Sua missão é “democratizar o bom aprendizado de máquina“, fornecendo conjuntos de dados de referência, ferramentas de colaboração comunitária e plataformas robóticas. A empresa está avaliado em US$ 4,5 bilhões.
No dia 16 de julho, a empresa anunciado ele foi atacado, com um hacker obtendo acesso não autorizado a alguns conjuntos de dados e credenciais internos. Ele disse que o hacker period provavelmente “um sistema de agente autônomo de IA” devido à sofisticação do ataque.
Cinco dias depois, OpenAI anunciado o ataque foi conduzido por alguns de seus modelos: GPT-5.6 Sol e um modelo ainda a ser lançado.
A gigante da tecnologia estava conduzindo o que é conhecido como “equipe vermelha“Exercícios. Estes são essencialmente ataques cibernéticos simulados que ajudam a identificar as capacidades, riscos e vulnerabilidades dos sistemas de IA antes de serem divulgados publicamente. Eles são normalmente conduzidos em um ambiente isolado para garantir que sistemas potencialmente perigosos não escapem e causem danos a sistemas reais.
Mas, neste caso, o agente de IA escapou – embora a OpenAI tivesse algumas proteções para evitar isso.
Hugging Face tornou-se uma oportunidade lucrativa para o agente de IA. Ele hospeda o ExploitGym, um benchmark que testa a capacidade de um agente de IA de explorar sistemas do mundo actual. A IA decidiu virar cada pedra de cabeça para baixo para obter acesso. Com persistência, conseguiu.
Hugging Face enfrentou um desafio ao tentar usar serviços externos de IA para diagnosticar o problema. As proteções em torno de modelos mais avançados, como GPT-5.6 Sol e Claude Fable 5, têm como objetivo impedir que sejam usados para ataques cibernéticos – mas também podem impedir que os modelos sejam usados para defesa cibernética sofisticada.
Assim, a Hugging Face recorreu a um modelo open supply, o GLM 5.2, desenvolvido pela empresa chinesa Z.AI, para combater o ataque cibernético.
Hugging Face disse que o GLM 5.2 period uma vantagem porque não foi exposto aos dados do ataque. Tanto a Hugging Face quanto a OpenAI estão colaborando em análises forenses, recuperação pós-incidente e estratégias de mitigação de riscos.
Ameaças mais sofisticadas estão chegando
Um março de 2025 estudar do Instituto de Segurança de IA do Reino Unido mostrou que a melhor IA poderia completar 80% das etapas necessárias para obter controle complete de uma parte de um sistema externo. Em quatro meses, atingiu 100%.
O GLM 5.2 da Z.AI só foi lançado em junho, com 744 bilhões de variáveis internas, conhecidas no mundo da IA como “parâmetros”. O fato de o Hugging Face ter avaliado, examinado e implantado o programa em quatro semanas deve ser uma revelação para organizações com longos ciclos de aquisição.
A conectividade de que todos desfrutamos hoje pode ser igualmente a nossa maior ameaça. As ameaças cibernéticas se espalham mais rapidamente que os vírus humanos e podem criar danos económicos semelhantes em magnitude ao PIB de um país.
Ameaças cibernéticas mais sofisticadas – do tipo exemplificado pelo hack Hugging Face – explorarão as camadas de segurança que os humanos projetaram para os atacantes humanos, independentemente de quão sofisticados sejam os nossos projetos.
Na verdade, neste caso específico, mesmo a própria compreensão dos seus modelos pela OpenAI não conseguiu prever ou conter o agente de IA desonesto. Isto mostra a necessidade de todas as empresas de IA atualizarem e reforçarem urgentemente as suas barreiras de proteção, a fim de ajudar a evitar que um ataque semelhante ocorra com consequências muito mais devastadoras.
É bom ver Hugging Face e OpenAI colaborando na investigação do ataque. Isto mostra a importância de deixar de lado a concorrência de mercado e a culpa quando a situação assim o exigir.
Um aviso prévio
O fato de Hugging Face ter usado o modelo de código aberto da Z.AI para diagnosticar e combater o ataque também mostra as vantagens de não depender de apenas algumas peças de tecnologia.
Os Estados que não estão empenhados em desenvolver os seus próprios modelos de IA precisam de aprender com este incidente o valor de serem diferentes. Ainda não é tarde para conceber novos modelos que possam salvar-nos em situações em que os modelos mais avançados falham – ou, pior ainda, nos atacam.
Na verdade, na semana passada, outra empresa chinesa, Moonshot AI, lançou o Kimi K3. Este modelo possui 2,8 trilhões de parâmetros, seu desempenho avançado esplêndido o mundo da tecnologia.
Não é mais uma questão de “se” Agentes de IA se tornem desonestos e nos ataquem sozinhos. O incidente do Hugging Face é um aviso prévio de que devemos acelerar a nossa preparação. A ameaça é actual e está aqui.
Este artigo foi republicado de A conversa sob uma licença Inventive Commons. Leia o artigo unique.