Lançamento do Antrópico ontem de Claude Fable 5 e Mythos 5 atraiu comentários da indústria elogiando os modelos e discutindo a melhor forma de protegê-los para a period da IA.
Fable 5 é o modelo de fronteira da Anthropic com salvaguardas de segurança, enquanto Mythos 5 tem algumas grades de proteção removidas.
Bom para trabalho de teste autônomo
Em um comunicado, CodeRabbit escreveu: “Vimos isso em vários projetos de codificação que usamos para testar as capacidades do modelo. Poderíamos dar avisos vagos ao Fable 5 e ainda obter projetos completos em vez de protótipos. Ele também encontrou caminhos de solução que pareciam menos óbvios, incluindo abordagens que as análises de modelos anteriores lutaram para alcançar sem mais controle.”
A CodeRabbit observou, porém, que esse tipo de comportamento aparece como um custo, pois descobriu que o Fable 5 continuou funcionando até que o chicote o interrompesse. Portanto, o modelo parece capaz, mas é caro e lento em fluxos de trabalho de agentes que não possuem equipamentos fortes para interrompê-los.
Além disso, recomenda que você não mude tudo para Fable 5, mas use-o para explorar, planejar e construir – especialmente onde a autonomia é o produto – mas mantenha o revisor atual no lugar.
Modelos combinam inovação e resiliência
Anthony Grieco, vice-presidente sênior, diretor de segurança e confiança da Cisco, disse que as organizações lutam com ciclos de segurança que não acompanham as mudanças em novos modelos, aqueles que “combinam inovação com resiliência” estarão mais bem posicionados para o sucesso. Código gerado por IA.
A Cisco – uma das primeiras testadoras dos modelos Anthropic e OpenAi – disse que os lançamentos da Anthropic ontem se alinham com sua missão de fornecer às empresas as ferramentas de IA para obter respostas mais rápidas e maior resiliência, juntamente com a estratégia e infraestrutura para aproveitar essas ferramentas.
“O ritmo do desenvolvimento da IA de fronteira está a mudar o cenário da segurança em tempo actual e os defensores não podem dar-se ao luxo de esperar que a poeira baixe”, disse Grieco. “Quer o modelo seja Claude Mythos 5, Claude Fable 5, GPT-5.5-Cyber ou o próximo avanço, o desafio não é mais apenas o acesso à IA avançada, mas como as organizações a operacionalizam com o equipamento, a infraestrutura e a lógica de agente adequados para transformar velocidade em clareza e ação.
“Isso significa continuar a investir nos fundamentos que nunca ficam desatualizados: patches, MFA, segmentação e Zero Belief”, acrescentou. “A IA aumentará o limite máximo para o que os defensores podem fazer, mas a resiliência da segurança continua a ser a base que determina se esses ganhos se traduzem em proteção actual.”
Sem desvantagens para o lançamento público
Embora muitos na indústria lamentassem o fato de a Anthropic ter adotado uma abordagem de implementação limitada para os modelos, Roger Grimes, consultor CISO da empresa de segurança cibernética KnowBe4disse que não há desvantagens em disponibilizar publicamente o Fable 5. “Quanto mais cedo o band-aid for arrancado, mais cedo o ciclo de vida do defensor entrará em ação e nos ajudará”, escreveu ele em comunicado.
“Quanto a saber se os cibercriminosos terão acesso a essas ferramentas mais rapidamente: não, na verdade não”, disse ele no comunicado. “Os criminosos têm usado IA para encontrar vulnerabilidades, explorações de código e malware de código desde o ano passado. Certamente, aprender sobre o Mythos deu um impulso renovado e mais intenso ao uso da IA para encontrar vulnerabilidades e explorá-las, mas não foi como se não fosse o que os cibercriminosos de elite não faziam há um ano… Caramba, eu vi versões semelhantes do Mythos sem IA sendo usadas por estados-nação e grandes equipes vermelhas há mais de uma década. Eles eram lindos bom então, mas agora habilitados para IA, eles estão sobrecarregados. A única coisa que o Mythos mudou substancialmente foi a rapidez com que os defensores obteriam essas ferramentas. Claro, ele acelerou e ajudou os atacantes, mas eles não precisavam de um empurrãozinho.
Grimes continuou dizendo que espera ver um aumento nas vulnerabilidades encontradas e exploradas nos próximos 2 a 3 anos, mas então os aplicativos se tornarão mais seguros.
Ele tem três coisas que os CIOs e CTOs precisam estar cientes:
Vulnerabilidades e zero dias explodirão nos próximos anos e serão explorados com mais rapidez e sucesso
Os defensores precisam executar os mesmos métodos de IA para encontrar e corrigir vulnerabilidades antes que os invasores o façam.
A aplicação de patches precisa ser feita mais rapidamente… com os defensores talvez reexaminando sua atual aceitação de riscos e, potencialmente, corrigindo mais rapidamente sem testes.
Segurança desde a concepção, não um “armagedão de segurança”
Enquanto isso, Charles Guillemet, CTO da empresa de segurança blockchain Ledger, disse que “a segurança desde o projeto é a única camada que torna a infraestrutura resistente à vulnerabilidade cibernética. Isso inclui verificação formal, usando enclaves seguros baseados em {hardware}”.
Num put up no LinkedIn, Guilllemet alertou contra o medo de que vulnerabilidades exploradas em grande número levem a um armagedom de segurança. “Mythos é, em sua essência, o Opus 4.xx com aprendizado de reforço especializado em segurança ofensiva”, escreveu ele. “Os invasores têm capacidade funcionalmente equivalente há meses. A prova está na telemetria: uma onda gigantesca de exploração selvagem, e o preço do acesso roubado nos mercados obscuros nunca foi tão baixo. Mal estamos arranhando a superfície. Nada mais é seguro e isso não mudará tão cedo.
Isso não está mudando. Ao mesmo tempo, indivíduos e organizações continuam lentos a atualizar as suas pilhas de software program. A segurança costumava ser um jogo de gato e rato. Agora, todos podem ser gatos.”
Ele acrescentou sua crença de que a segurança está praticamente ausente das conversas mais amplas dos agentes de IA e que as organizações demoram a atualizar suas pilhas de software program. “Segurança”, disse ele, “costumava ser um jogo de gato e rato. Agora, todos podem ser gatos”.