Com instruções simples, é possível gerar imagens de microscopia falsa de nanomateriais que são praticamente indistinguíveis de imagens reais. Devemos nos preocupar?
Em um sóbrio Comentário Artigo publicado nesta edição, vários acadêmicos levantam preocupações sobre o uso indevido de inteligência synthetic generativa (IA), especificamente em artigos de síntese de nanomateriais. Usando instruções simples e apenas algumas horas de treinamento, os autores mostram que uma ferramenta de IA pode produzir imagens de microscopia de força atômica e microscopia eletrônica de nanomateriais indistinguíveis dos reais. Eles também mostram imagens geradas pela IA de ‘nanomateriais de fantasia’ (por exemplo, ‘nanocheetos’). Os leitores são incentivados a testar se podem distinguir entre as imagens reais e falsas.
Crédito: Javier Zayas Pictures / Second / Getty Pictures
Embora não seja surpreendente, este comentário serve como um lembrete gritante da facilidade com que as imagens de microscopia falsa podem ser produzidas hoje em dia. Se os pesquisadores usarão a IA para gerar imagens falsas em artigos é a questão convincente para a comunidade científica. O que pode ser feito contra esse uso antiético da IA generativa?
O melhor lugar para começar é a educação. A curva de aprendizado de qualquer cientista profissional começa durante o treinamento de doutorado, mas os estudantes de bacharel e mestrado já adquirem comportamentos de seus arredores. Uma cultura de laboratório saudável que enfatiza o rigor científico, a atenção aos detalhes e as boas práticas, como manuseio de dados e curadoria, contribui muito para forjar gerações de cientistas que entendem o que é aceitável e o que não está na ciência. Os cursos de integridade da pesquisa devem ser obrigatórios em todos os programas de doutorado em todo o mundo. Se existem instrutores qualificados suficientes para entregá -los é outra questão.
Como um empreendimento international que se alimenta da troca de idéias entre colaboradores internacionais, a pesquisa científica desenvolveu um conjunto compartilhado de comportamentos éticos1Assim,2. A má conduta é centrada em torno de três práticas principais: plágio, falsificação e fabricação. Imagens de microscopia gerada pela IA, como as mostradas no comentário, constituiriam fabricação de imagens.
Embora seja preocupante que nem um humano altamente treinado possa reconhecer imagens falsas geradas pela IA, também devemos observar que as ferramentas de IA podem ser usadas para identificá-las. De fato, as ferramentas de IA são usadas para detectar fabricação de imagens, falsificação e plágio por muitos editores, incluindo Springer Nature3. Em Natureza E os periódicos do portfólio da natureza, os documentos da ciência da vida são rotineiramente examinados usando uma ferramenta comercial de IA (Prova) antes da aceitação. Se for detectada manipulação de imagem em potencial, os autores serão orientados a resolver qualquer problema identificado. Um processo semelhante está em vigor no Ciência Jornal Família4.
É importante ressaltar que a revisão por pares, na qual os pesquisadores de pares avaliam a pesquisa quanto à validade, design ético e mérito, nunca foi projetado para capturar fraudadores. Não solicitamos aos nossos revisores que examinem dados para uma possível manipulação ou repetir experimentos, porque a ciência é baseada na confiança. E deve permanecer assim. Manter a confiança na ciência é uma responsabilidade coletiva e requer contribuições de pesquisadores, editores, universidades, empresas baseadas em pesquisas, órgãos governamentais e não governamentais. Uma colaboração mais forte entre os desenvolvedores da AI-Instruments e os especialistas em integridade científica precisa ser promovida.
Os editores estão sendo chamados para verificar se o que é publicado é a ciência reproduzível e confiável. Nos periódicos do portfólio da natureza, resumos de relatórios, listas de verificação para tópicos específicos (por exemplo, lasers ou células solares), permitindo ou exigindo reposicionamento de dados, verificações de qualidade e edição cuidadosa para conclusões moderadas ocorrem na jornada de submissão para publicação de um manuscrito sem nenhum envolvimento de revisor mínimo. Para preocupações pós-publicação, Springer Nature tem um dedicado Equipe de integridade de pesquisa que supervisiona políticas e procedimentos de acordo com as diretrizes de Cope (Comitê de Ética da Publicação) e investiga esses casos.
A sofisticação de imagens produzidas usando ferramentas de IA significa que copiar e colar traços de ruído ou cortar partes indesejadas de uma imagem agora é obsoleta. Mas na period da IA também, as palavras de Richard Feynman tendem grande5: “Aprendemos com a experiência que a verdade será lançada. Outros pesquisadores repetirão seu experimento e descobrirão se você estava errado ou certo. Os fenômenos da natureza concordarão ou eles discordarão da sua teoria. E, embora você possa obter uma fama e excitação temporária, você não terá uma boa reputação como cientista se não tentar ter muito cuidado nesse tipo de trabalho”.
A IA chega a um momento fértil da história da ciência, quando experimentos de alto rendimento geram grandes conjuntos de dados que o cérebro humano luta para processar, e as políticas orientadas pela ciência são necessárias para abordar questões sociais prementes e complexas. O potencial das ferramentas de IA ainda é totalmente apreciado pelos pesquisadores, mas todos os campos serão profundamente transformados por seu uso6. Os pesquisadores devem se tornar hábeis no uso de ferramentas de IA para aumentar sua criatividade e produtividade, em vez de gerar resultados falsos.