Uma das iniciativas de pesquisa de segurança do Google, o Undertaking Zero, conseguiu detectar com sucesso uma vulnerabilidade de segurança de memória de dia zero usando detecção assistida por LLM. “Acreditamos que este é o primeiro exemplo público de um agente de IA que encontra um problema de segurança de memória explorável anteriormente desconhecido em software program amplamente utilizado no mundo actual”, escreveu a equipe em um comunicado. publicar.
O Undertaking Zero é uma equipe de pesquisa de segurança do Google que estuda vulnerabilidades de dia zero e, em junho, eles anunciaram Hora da soneca do projetouma estrutura para pesquisa de vulnerabilidade assistida por LLM. Nos últimos meses, o Undertaking Zero se uniu ao Google DeepMind e transformou o Undertaking Naptime em Huge Sleep, que foi o que descobriu a vulnerabilidade.
A vulnerabilidade descoberta pelo Huge Sleep foi um estouro de buffer de pilha no SQLite. A equipe do Undertaking Zero relatou a vulnerabilidade aos desenvolvedores em outubro, que conseguiram corrigi-la no mesmo dia. Além disso, a vulnerabilidade foi descoberta antes de aparecer em um lançamento oficial.
“Achamos que este trabalho tem um tremendo potencial defensivo”, escreveu a equipe do Projeto Zero. “Encontrar vulnerabilidades em software program antes mesmo de ele ser lançado significa que não há espaço para os invasores competirem: as vulnerabilidades são corrigidas antes mesmo que os invasores tenham an opportunity de usá-las.”
De acordo com o Undertaking Zero, a infraestrutura de testes existente do SQLite, incluindo o OSS-Fuzz e a infraestrutura do próprio projeto, não encontrou a vulnerabilidade.
Este feito segue a equipe de pesquisa de segurança Equipe Atlanta no início deste ano também descobriu uma vulnerabilidade no SQLite usando detecção assistida por LLM. O Projeto Zero usou isso como inspiração em sua própria pesquisa.
De acordo com o Undertaking Zero, o fato de Huge Sleep ter conseguido encontrar uma vulnerabilidade em um projeto de código aberto bem difuso é emocionante, mas eles também acreditam que os resultados ainda são experimentais e que um fuzzer específico para um alvo também seria igualmente eficaz em encontrar vulnerabilidades. .
“Esperamos que, no futuro, este esforço leve a uma vantagem significativa para os defensores – com o potencial não apenas de encontrar casos de teste com falhas, mas também de fornecer análises de causa raiz de alta qualidade, a triagem e a correção de problemas podem ser muito mais baratas e mais eficaz no futuro. Pretendemos continuar a partilhar a nossa investigação neste espaço, mantendo a distância entre o estado da arte público e o estado da arte privado tão pequena quanto possível”, concluiu a equipa.