Antes de uma conferência sobre inteligência synthetic realizada em abril passado, os revisores consideraram os artigos escritos por “Carl” juntamente com outras submissões. O que os revisores não sabiam period que, ao contrário de outros autores, Carl não period um pesquisador científico, mas sim um sistema de IA construído pela empresa de tecnologia Instituto de Autociênciasque diz que o modelo pode acelerar inteligência synthetic pesquisar. E, pelo menos de acordo com os humanos envolvidos no processo de revisão, os artigos eram bons o suficiente para a conferência: no processo de revisão por pares duplo-cego, três dos quatro artigos, de autoria de Carl (com níveis variados de contribuição humana), foram aceitos.
Carl se junta a um grupo crescente de chamados “Cientistas de IA”, que inclui Robin e cosmosagentes de pesquisa desenvolvidos pelo laboratório de pesquisa sem fins lucrativos FutureHouse, com sede em São Francisco, e O Cientista de IAapresentado pela empresa japonesa Sakana AI, entre outros. Os cientistas de IA são formados por vários modelos de linguagem grandes. Por exemplo, Carl difere dos chatbots porque foi concebido para gerar e testar ideias e produzir descobertas, disse Eliot Cowan, cofundador do Autoscience Institute. As empresas dizem que estes sistemas baseados em IA podem rever literatura, conceber hipóteses, conduzir experiências, analisar dados e produzir novas descobertas científicas com vários graus de autonomia.
O objetivo, disse Cowan, é desenvolver sistemas de IA que possam aumentar a eficiência e ampliar a produção de ciência. E outras empresas como a Sakana AI indicado a crença de que é improvável que os cientistas de IA substituam os humanos.
Ainda assim, a automatização da ciência suscitou uma mistura de preocupação e optimismo entre a IA e as comunidades científicas. “Você começa a se sentir um pouco desconfortável porque, ei, é isso que eu faço”, disse Julian Togelius, professor de ciência da computação na Universidade de Nova York que trabalha com inteligência synthetic. “Eu gero hipóteses, leio a literatura.”
Os cientistas de IA são formados por vários modelos de linguagem grandes. Carl difere dos chatbots porque foi concebido para gerar e testar ideias e produzir descobertas.
Os críticos destes sistemas, incluindo os cientistas que estudam a inteligência synthetic, temem que os cientistas da IA possam substituir os investigadores da próxima geração, inundar o sistema com dados de baixa qualidade ou não fiáveis e minar a confiança nas descobertas científicas. Os avanços também levantam uma questão sobre onde a IA se enquadra no empreendimento científico inerentemente social e humano, disse David Leslie, diretor de ética e pesquisa de inovação responsável do Instituto Alan Turing, em Londres. “Há uma diferença entre a prática compartilhada completa da ciência e o que está acontecendo com um sistema computacional.”
Nos últimos cinco anos, os sistemas automatizados já levaram a importantes avanços científicos. Por exemplo, AlfaFoldum sistema de IA desenvolvido pelo Google DeepMind, foi capaz de prever as estruturas tridimensionais de proteínas com alta resolução mais rapidamente do que cientistas no laboratório. Os desenvolvedores do AlphaFold, Demis Hassabis e John Jumper, ganharam o Prêmio Nobel de Química de 2024 por seu trabalho de previsão de proteínas.
Agora as empresas expandiram-se para integrar a IA noutros aspectos da descoberta científica, criando o que Leslie chama Frankensteins computacionais. O termo, diz ele, refere-se à convergência de várias infraestruturas generativas de IA, algoritmos e outros componentes usados “para produzir aplicações que tentam simular ou aproximar práticas sociais complexas e incorporadas (como práticas de descoberta científica)”. Só em 2025, pelo menos três empresas e laboratórios de investigação – Sakana AI, Autoscience Institute e FutureHouse (que lançou um spinoff comercial chamado Edison Scientific em Novembro) – divulgaram os seus primeiros resultados científicos “gerados por IA”. Alguns cientistas do governo dos EUA também adotaram a inteligência synthetic: pesquisadores de três laboratórios federais, o Argonne Nationwide Laboratory, o Oak Ridge Nationwide Laboratory e o Lawrence Berkeley Nationwide Laboratory, desenvolveram laboratórios de materiais totalmente automatizados e orientados por IA.
“Você começa a se sentir um pouco desconfortável porque, ei, é isso que eu faço.”
Na verdade, estes sistemas de IA, tal como grandes modelos linguísticos, poderiam ser potencialmente utilizados para sintetizar literatura e extrair grandes quantidades de dados para identificar padrões. Particularmente, podem ser úteis nas ciências dos materiais, nas quais os sistemas de IA podem projetar ou descobrir novos materiaise na compreensão da física das partículas subatômicas.
Os sistemas podem “basicamente fazer conexões entre milhões, bilhões, trilhões de variáveis” de maneiras que os humanos não conseguem, disse Leslie. “Não funcionamos dessa forma e, portanto, apenas em virtude dessa capacidade, existem muitas, muitas oportunidades.” Por exemplo, Robin da FutureHouse explorou literatura e identificado um potencial candidato terapêutico para uma condição que causa perda de visão, propôs experimentos para testar a droga e depois analisou os dados.
Mas os pesquisadores também levantaram sinais de alerta. Embora Nihar Shah, cientista da computação da Universidade Carnegie Mellon, esteja “mais otimista” sobre como os sistemas de IA podem permitir novas descobertas, ele também se preocupa com o desperdício de IA, ou com o excesso de literatura científica com estudos gerados por IA de baixa qualidade e pouca inovação. Os pesquisadores também apontou outras advertências importantes relativas ao processo de revisão por pares.
Em um estudo recente que ainda não foi revisado por pares, Shah e colegas testaram dois modelos de IA que auxiliam no processo científico: AI Scientist-v2 de Sakana (uma versão atualizada do authentic) e Laboratório de Agentesum sistema desenvolvido pela AMD, uma empresa de semicondutores, em colaboração com a Universidade Johns Hopkins, para realizar tarefas de assistente de pesquisa. O objetivo de Shah com o estudo period examinar onde esses sistemas poderiam estar falhando.
Um sistema de IA, o AI Scientist-v2, relatou 95 e às vezes até 100 por cento de precisão em uma tarefa específica, o que period impossível dado que os pesquisadores haviam introduzido ruído intencionalmente no conjunto de dados. Aparentemente, ambos os sistemas às vezes criavam conjuntos de dados sintéticos para executar a análise, embora declarassem no relatório ultimate que isso foi feito no conjunto de dados authentic. Para resolver isso, Shah e sua equipe desenvolveram um algoritmo para sinalizar as armadilhas metodológicas que identificaram, como a seleção seletiva de conjuntos de dados favoráveis para executar suas análises e relatórios seletivos de resultados positivos.
Algumas pesquisas sugerem que os sistemas generativos de IA também não conseguiram produzir ideias inovadoras. Um estudo concluiu que um chatbot generativo de IA, ChatGPT4, só pode produzir descobertas incrementaisenquanto um estudo recente publicado no ano passado em Imunologia Científica descobriram que, apesar de serem capazes de sintetizar a literatura com precisão, os chatbots de IA não conseguiu gerar hipóteses perspicazes ou propostas experimentais na área de vacinologia. (Sakana AI e FutureHouse não responderam aos pedidos de comentários.)
Mesmo que estes sistemas continuem a ser utilizados, um lugar humano no laboratório provavelmente não desaparecerá, disse Shah. “Mesmo que os cientistas de IA se tornem extremamente capazes, ainda assim haverá um papel para as pessoas, mas isso em si não está totalmente claro”, disse Shah, “quanto à capacidade dos cientistas de IA e quanto ainda existiria para os humanos?”
Historicamente, a ciência tem sido uma empreendimento profundamente humanoque Leslie descreveu como um processo contínuo de interpretação, criação de mundo, negociação e descoberta. É importante ressaltar, acrescentou ele, que esse processo depende dos próprios pesquisadores e dos valores e preconceitos que defendem.
Um sistema computacional treinado para prever a melhor resposta, por outro lado, é categoricamente distinto, disse Leslie. “O modelo preditivo em si é apenas uma pequena fatia de uma prática contínua, muito complexa e profunda, que tem camadas de complexidade institucional, camadas de complexidade metodológica, complexidade histórica, camadas de discriminação que surgiram de outras injustiças que definem quem pode fazer ciência, quem não pode fazer ciência, e o que a ciência fez por quem, e o que a ciência não fez porque as pessoas não estão enviando para que suas perguntas sejam respondidas.”
Pesquisadores de três laboratórios federais desenvolveram laboratórios de materiais totalmente automatizados e orientados por IA.
Em vez de um substituto para os cientistas, alguns especialistas vêem os cientistas da IA como uma ferramenta adicional e aumentativa para os investigadores ajudarem a extrair informações, tal como um microscópio ou um telescópio. As empresas também afirmam que não pretendem substituir os cientistas. “Não acreditamos que o papel de um cientista humano será diminuído. Na verdade, o papel de um cientista mudará e se adaptará às novas tecnologias, e subirá na cadeia alimentar”, escreveu Sakana AI quando a empresa anunciou seu Cientista de IA.
Agora os investigadores estão a começar a ponderar como poderá ser o futuro da ciência juntamente com os sistemas de IA, incluindo como examinar e validar os seus resultados. “Precisamos refletir muito sobre como classificamos o que realmente está acontecendo nessas ferramentas e se elas estão prejudicando o rigor da ciência, em vez de enriquecer nossa capacidade interpretativa, funcionando como uma ferramenta para usarmos na prática científica rigorosa”, disse Leslie.
No futuro, Shah propôs, os periódicos e conferências deveriam examinar os resultados da pesquisa em IA, auditando os registros do processo de pesquisa e o código gerado para validar as descobertas e identificar quaisquer falhas metodológicas. E empresas, como o Autoscience Institute, dizem que estão a construir sistemas para garantir que as experiências cumprem os mesmos padrões éticos que “uma experiência conduzida por um ser humano numa instituição académica teria de cumprir”, disse Cowan. Alguns dos padrões incorporados a Carl, observou Cowan, incluem a prevenção de falsas atribuições e plágio, a facilitação da reprodutibilidade e o não uso de seres humanos ou dados confidenciais, entre outros.
Enquanto alguns investigadores e empresas estão concentrados em melhorar os modelos de IA, outros recuam para perguntar como é que a automatização da ciência irá afectar as pessoas que actualmente realizam a investigação. Agora é um bom momento para começar a lidar com essas questões, disse Togelius. “Recebemos a mensagem de que as ferramentas de IA que fazem isso nos tornam melhores em fazer ciência, isso é ótimo. Automatizar-nos fora do processo é terrível”, acrescentou ele. “Como podemos fazer uma coisa e não a outra?”
Este artigo foi publicado originalmente em Escuro. Leia o artigo authentic.
