As proteínas são os motores e os blocos de construção da biologia – Atendendo como os organismos se adaptam, pensam e funcionam. A IA está ajudando os cientistas a projetar novas estruturas de proteínas de sequências de aminoácidos, abrindo portas para novas terapias e curas.
Mas com esse poder também vem a uma responsabilidade séria: muitas dessas ferramentas são de código aberto e podem ser suscetíveis ao uso indevido.
Para entender o risco, os cientistas da Microsoft mostraram como as ferramentas de design de proteínas de IA de código aberto (AIPD) poderiam ser aproveitadas para gerar milhares de versões sintéticas de uma toxina específica-alterando sua sequência de aminoácidos, preservando sua estrutura e potencialmente sua função. O experimento, feito por simulação por computador, revelou que a maioria dessas toxinas reprojetadas pode evitar sistemas de triagem usados pelas empresas de síntese de DNA.
Essa descoberta expôs um ponto cego na biossegurança e, finalmente, levou à criação de um esforço colaborativo e entre os setor, dedicado a tornar os sistemas de triagem de DNA mais resistentes aos avanços da IA. Ao longo de 10 meses, a equipe trabalhou discreta e rápida para lidar com o risco, formulando e aplicando novos processos de “equipes vermelhas” de biossegurança para desenvolver um “patch” que foi distribuído globalmente às empresas de síntese de DNA. Seu artigo revisado por pares, Publicado em ciência em 2 de outubrodetalha suas descobertas iniciais e Ações subsequentes que fortaleceram salvaguardas globais de biossegurança.
Eric Horvitz, diretor científico da Microsoft e líder do projeto, explica mais sobre o que tudo isso significa:
Nos termos mais simples, que pergunta seu estudo se propôs a responder e o que você encontrou?
Eu parti com Bruce Wittmann, um biocientista aplicado sênior da minha equipe, para responder à pergunta: “As ferramentas de design de proteínas de IA de hoje poderiam ser usadas para redesenhar as proteínas tóxicas para preservar sua estrutura-e potencialmente sua função-enquanto evita a detecção por ferramentas de triagem de corrente?” A resposta a essa pergunta foi sim, eles poderiam.
A segunda pergunta period: “Poderíamos projetar métodos e um estudo sistemático que nos permitisse trabalhar de maneira rápida e silenciosa com as principais partes interessadas para atualizar ou corrigir essas ferramentas de triagem para torná -las mais resilientes?” Graças ao estudo e aos esforços de colaboradores dedicados, agora podemos dizer que sim.
O que sua pesquisa revela sobre as limitações dos atuais sistemas de biossegurança e quão vulneráveis somos hoje?
CE descobriu que o software program e os processos de triagem eram inadequados na detecção de uma versão “parafraseada” das sequências proteicas. O design de proteínas alimentado por IA é uma das áreas mais emocionantes e rápidas da IA no momento, mas essa velocidade também levanta preocupações sobre possíveis usos malévolos das ferramentas AIPD. Após o lançamento do projeto parafrase, acreditamos que chegamos muito longe em caracterizar e abordar as preocupações iniciais em um período relativamente curto de tempo.
Existem várias maneiras pelas quais a IA pode ser mal utilizada para projetar a biologia – incluindo áreas além das proteínas. Esperamos que esses desafios persistam, portanto, haverá uma necessidade contínua de identificar e abordar vulnerabilidades emergentes. Esperamos que nosso estudo forneça orientação sobre métodos e melhores práticas que outras pessoas possam se adaptar ou desenvolver. Isso inclui os métodos de adaptação de cenários de resposta a emergências de segurança cibernética e técnicas desenvolvidas para “tonificação vermelha” para IA em biologia – sImular os papéis de invasor e defensor para testar iterativamente, fugir e melhorar a detecção de ameaças geradas por IA.
O que mais te surpreendeu nas suas descobertas?
Houve várias surpresas ao longo do caminho. Foi surpreendente ver com que eficácia uma equipe intersetorial poderia se unir tão rapidamente e colaborar tão de perto em velocidade, formando um grupo coeso que se encontrava regularmente por meses. Reconhecemos os riscos, alinhados na abordagem, adaptados a uma série de descobertas e comprometidos com o processo e o esforço até que desenvolvemos e distribuímos uma correção.
Também ficamos surpresos – e inspirados – pelo poder de ferramentas AIPD amplamente disponíveis nas ciências biológicas, não apenas para prever a estrutura de proteínas, mas para permitir o design de proteínas personalizadas. As ferramentas de design de proteínas de IA estão tornando este trabalho mais fácil e acessível. Essa acessibilidade reduz a barreira da experiência necessária, acelerando o progresso na biologia e na medicina – mas também pode aumentar o risco de uso indevido. Espero que algumas das maiores vitórias da IA virão nas ciências da vida e na saúde, mas nosso estudo destaca por que devemos permanecer proativos, diligentes e criativos no gerenciamento de riscos.
Você pode explicar por que as pessoas comuns devem se preocupar com a IA sendo usada na biologia? Quais são os benefícios e quais são os riscos do mundo actual?
Eu acho que é importante que todos entendam o poder e a promessa dessas ferramentas de IA, considerando seu incrível potencial para permitir avanços que mudam o jogo em biologia e medicina e nossa responsabilidade coletiva de garantir que eles beneficiem a sociedade em vez de causar danos.
Ser capaz de identificar e projetar novas estruturas de proteínas abre caminhos para entender mais profundamente a biologia: como nossas células operam nos fundamentos da saúde, bem -estar e doenças – e como desenvolver novas curas e terapias. Algumas das primeiras aplicações envolveram proteínas adicionadas aos detergentes da lavanderia, otimizados para remover manchas. Mais recentemente, o progresso mudou para esforços sofisticados para proteínas de construção personalizada para funções biológicas específicas, como novos antídotos para neutralizar o veneno de cobra.
TEsses avanços na mudança de paradigma provavelmente levarão, em nossa vida, a avanços, como desacelerar ou curar cânceres, abordar doenças imunes, melhorar as terapias, desbloquear mistérios biológicos e detectar e atenuar as ameaças à saúde antes que elas se espalhem. Ao mesmo tempo, essas ferramentas podem ser exploradas de maneiras prejudiciais. É por isso que é basic emparelhar a inovação com salvaguardas: avanços técnicos proativos da forma em que focamos em nosso trabalho, supervisão regulatória e cidadãos informados.
O que você quer que o público mais amplo tire do seu estudo? Devemos nos preocupar, otimistas ou ambos?
Quase todos os principais avanços científicos são “uso duplo” – eles oferecem benefícios profundos, mas também carregam riscos. É importante proteger os perigos enquanto aproveita os benefícios – especialmente na IA para biologia e medicina, onde o potencial de progresso na saúde é enorme.
Nosso estudo mostra que é possível investir simultaneamente em inovação e salvaguardas. Ao construir corrimãos, políticas e defesas técnicas, podemos ajudar a garantir que as pessoas e a sociedade se beneficiem da promessa da IA, reduzindo o risco de uso indevido prejudicial. Essa abordagem dupla não se aplica apenas à biologia – é uma estrutura de como a humanidade deve investir no gerenciamento de avanços de IA entre disciplinas e domínios.
Imagem principal: os pesquisadores descobriram que period possível preservar os locais ativos da proteína (ilustrada pelas letras KES), enquanto a sequência de aminoácidos foi reescrita.