Utilizada de forma ponderada e transparente, a IA generativa pode apoiar, mas não deve substituir, o julgamento humano, a experiência e o pensamento crítico na revisão por pares.
Com este editorial, gostaríamos de chamar a atenção dos revisores para o uso responsável de ferramentas generativas de inteligência synthetic (IA) na revisão de um manuscrito. As diretrizes gerais, compartilhadas em todas as revistas do Nature Portfolio, estão descritas em nosso website em https://www.nature.com/nnano/editorial-policies/ai.
Crédito: Panther Media International / Alamy Inventory Picture
Ao utilizar ferramentas de IA para produzir qualquer tipo de conteúdo, o mais importante a ter em mente é que o usuário é sempre responsável. Este princípio tem várias consequências1,2.
A primeira consequência é que cada resultado gerado por uma ferramenta de IA requer validação humana. Ou seja, não se deve presumir que o resultado de uma ferramenta de IA seja factualmente preciso (mesmo que o immediate contenha a instrução “não alucinar”). Os resultados e as fontes relacionadas devem ser sempre verificados por uma pessoa responsável. No caso da revisão por pares, pedimos aos revisores “que declarem o uso de tais ferramentas de forma transparente no relatório de revisão por pares”. À medida que os usuários se familiarizam com as ferramentas de IA, eles podem exercer vários graus de ceticismo ao ler os resultados da ferramenta e melhorar a precisão usando prompts mais precisos. Por exemplo, quando a validação é considerada, os revisores podem descobrir que usar uma ferramenta de IA consome mais tempo do que não usá-la, ou que ela é útil apenas para determinados aspectos da revisão do manuscrito.
A segunda consequência diz respeito às implicações legais do add de um manuscrito para uma ferramenta de IA. Os autores confiam em nós para compartilhar manuscritos com revisores em estrito sigilo. Carregar um manuscrito em uma ferramenta de IA pode violar essa confidencialidade. Existem certas ferramentas de IA que são fechadas, o que significa que não compartilham conteúdo carregado na World Large Internet nem o utilizam para treinamento. No entanto, dependendo das configurações ou dos acordos do usuário last da ferramenta de IA específica, o conteúdo carregado ainda pode ser descoberto por outros usuários no ambiente fechado (por exemplo, colegas de uma instituição). Para evitar quaisquer consequências legais, pedimos aos revisores que “não carreguem manuscritos em ferramentas generativas de IA”.
O uso de ferramentas de IA para melhorar a gramática ou a legibilidade de textos gerados por humanos não precisa ser declarado (embora ainda exija validação humana)3. O principal risco que vemos neste momento no uso da IA para a revisão por pares de um manuscrito é a dependência excessiva de uma ferramenta que ainda é amplamente vista como uma caixa preta e pode produzir resultados imprecisos.
Como todos os outros, nós, editores, ainda estamos aprendendo como usar melhor as ferramentas de IA, por exemplo, para resumir os pontos principais, extrair as principais métricas de desempenho ou identificar revisores adequados. Como qualquer nova tecnologia, é essential ser informado sobre ela. Investimos em treinamento e conscientização para garantir o uso ético das ferramentas que a editora nos fornece. Quais são as vantagens? Quais são as implicações legais do uso indevido? Qual a melhor forma de extrair o resultado desejado? Quais são as limitações das ferramentas? Qual é o conjunto de dados usado para treiná-lo? Com que tarefas específicas pode nos ajudar a ser mais produtivos (ou mais rápidos)? Quando usar ferramentas de IA é uma perda de tempo? Quanta energia ou CO2 equivalente um immediate consome?
À medida que os revisores também aprendem a elaborar instruções eficazes, validar resultados e preservar a confidencialidade, acreditamos que as ferramentas de IA acabarão por ajudar o processo de revisão por pares. Os revisores e editores poderão exercer o seu julgamento à luz de uma vasta quantidade de informações na literatura que as ferramentas de IA poderiam recuperar de forma eficaz. Se usado de forma desatenta, corremos o risco de delegar o pensamento crítico a um algoritmo, dando-nos uma falsa sensação de realização. Isto prejudica o papel da nossa formação académica, pensamento crítico e experiência, bem como a instituição da revisão por pares4.
Olhando para o futuro, à medida que a IA generativa se torna mais capaz e profundamente integrada em fluxos de trabalho académicos automatizáveis, a nossa prioridade partilhada deve ser garantir que os ganhos de eficiência nunca ocorram à custa do rigor, da confidencialidade ou da responsabilização.5. À medida que a sensibilidade das comunidades científicas em torno da IA evolui, as diretrizes do Nature Portfolio são obrigadas a adaptar-se em conformidade. Continuaremos a refinar nossas orientações de acordo com a tecnologia, os padrões emergentes e as expectativas da comunidade, fornecendo diretrizes mais claras para os revisores pares. As ferramentas de IA que são comprovadamente seguras e adequadas à finalidade, quando utilizadas de forma transparente e crítica, podem ajudar os revisores a navegar numa literatura em constante expansão e a concentrar os seus conhecimentos onde é mais importante; usados de forma acrítica, eles correm o risco de minar o próprio julgamento que a revisão por pares deve ser aplicada. O nosso objectivo, portanto, não é acelerar a revisão pelos pares, externalizando o pensamento, mas fortalecê-lo, permitindo decisões humanas informadas, baseadas em evidências, integridade e confiança.