Como detectar conteúdo gerado por IA: SynthID do Google

Ao navegar pelo feed do YouTube, você pode ter percebido. É quase impossível descobrir conteúdo gerado por IA a partir de conteúdo humano. E esse problema não se limita ao YouTube, mas tem afetado o conteúdo de toda a web. Com lançamentos como Nano banana, ChatGPT e Qwen ultrapassando os limites do que period possível antes, tornou-se um incômodo encontrar aquele toque humano on-line.

Mas, como a maioria dos problemas da period moderna, o Google se agarrou a esse problema. Com o SynthID, eles propõem um sistema de marca d’água de conteúdo gerado por IA em todo o setor. Este guia irá familiarizá-lo com a tecnologia, determinar quão boa ela é e como você mesmo pode usá-la para detectar conteúdo gerado por IA.

O que é SynthID?

A detecção SynthID é um Ferramenta de marca d’água invisível que faz com que o conteúdo criado ou editado pelas ferramentas de geração de IA do Google tenha uma marca d’água digital imperceptível incorporada em seu conteúdo. Os sistemas do Google podem ler esta marca d’água. Ele marca qualquer mídia gerada por IA criada por meio de Gêmeos ou qualquer outra ferramenta geradora no ecossistema do Google.

Isso também destaca um problema: A ferramenta funciona “com confiança” com a mídia gerada a partir de ferramentas generativas apenas dentro do ecossistema do Google. Isso significa que o SynthID não consegue detectar conteúdo do ChatGPT, Grokou outros modelos que não sejam do Google, gerados por IA com alta confiança. E…. O Google está a caminho de superar isso fazendo parcerias com empresas de todo o mundo para marcar seu conteúdo gerado por IA com SynthID. Faz parte do seu objetivo melhorar a transparência e a confiança no conteúdo gerado por IA, em toda a Web.

SynthID também funciona de outra maneira. Ele não apenas marca o conteúdo com marcas d’água, mas também detecta mídia criada por IA. Isso o torna o aplicativo ultimate para oferecer funcionalidades semelhantes aos detectores de IA.

Se você quiser ler o artigo de pesquisa que explica como funciona o algoritmo SynthID, confira em Natureza.

Prática: como detectar conteúdo gerado por IA?

Agora que o SynthID foi lançado no Gemini, podemos testá-lo para ver seu desempenho na descoberta de conteúdo gerado por IA. Eu o testaria nas seguintes tarefas para testar seu desempenho no discernimento de conteúdo multimodal gerado por IA:

1. Identificando texto gerado por IA
2. Identificando vídeo gerado por IA
3. Identificando uma imagem gerada por IA produzida pelo Gemini
4. Identificando uma imagem sem IA
5. Identificando uma imagem híbrida que é parte humana e parte gerada por IA
6. Identificando uma imagem gerada por IA produzida por ChatGPT

Esses três testarão a capacidade do SynthID de reconhecer as imagens que deve sinalizar e como ele lida com aquelas que não deveria.

Observação: Eu usaria o Gemini App e o Google AI Studio para realizar diferentes tarefas, já que o Gemini App atualmente tem recursos limitados. O Texto e Vídeo A detecção de IA foi realizada no Google AI Studio.

1. Identificação de texto gerado por IA

Para esta tarefa eu usaria o conteúdo de um dos meus artigos anteriores: Por que a China está vencendo a corrida pela IA?

Resposta:

Boné! Mas, para provar de forma mais convincente por que isso não é verdade, as seções seguintes à primeira são todas errôneas (a primeira poderia ser atribuída à falta de compreensão estrutural do modelo). A terceira seção Frases e Vocabulário principalmente leva a melhor, pois a modelo ficou totalmente pedante descobrindo problemas no texto, que nem existem. Considerou maneirismos típicos da escrita, como grandiloquência (Sim, sou culpado) e pontos de vista equilibrados, como sinais de alerta.

A quarta seção Problemas de atribuição de cotação destaca os recursos limitados de busca de informações em tempo actual do modelo. A citação de Jensen Huang, que pode ser encontrada neste TOI artigo, period aparentemente um fusão!

eu aconselharia contra usando os recursos de detecção textual de IA do Gemini.

2. Identificação de vídeo gerado por IA

Eu usaria o seguinte vídeo gerado por IA para esta tarefa:

Resposta:

Bem na marca! O modelo não só foi capaz de reconhecer que provavelmente foi gerado por IA, mas também forneceu uma possível justificativa por trás disso. Os pontos foram convincentes o suficiente para considerar este vídeo gerado por IA.

3. Identificando uma imagem gerada por IA produzida pelo Gemini

Eu usaria a seguinte imagem para esta tarefa:

Resposta:

Essa foi fácil, pois a imagem tinha uma marca d’água visível.

O que mais me chamou a atenção (além do tempo de espera de um minuto) foi que em seu raciocínio havia uma chamada clara para o SynthID ferramenta foi feita para verificação ultimate. O que significa que a ferramenta não é a única maneira de o modelo reconhecer o conteúdo de IA.

O próprio modelo escolhe os sinais que podem ajudar a chegar a um resultado definitivo. SynthID é aproveitado para confirmação ultimate.

4. Identificando uma imagem sem IA

Eu usaria a seguinte imagem para esta tarefa:

A imagem é tão humana quanto parece. Vamos ver o que Gêmeos pensa sobre isso.

Resposta:

Observação correta de Gêmeos. O modelo também deixou claro que por se tratar de uma imagem actual e, portanto, não possuir marca d’água invisível, é impossível ter 100% de certeza sobre a conclusão. Quando todos os principais modelos começarem a incorporar SynthID em seu conteúdo, essa dedução será muito mais confiável.

5. Identificando uma imagem híbrida que é parte humana e parte gerada por IA

Para este teste eu usaria a versão adulterada da imagem anterior:

Resposta:

Bem na marca! O modelo descobriu corretamente a parte da imagem que foi alterada digitalmente.

6. Identificando uma imagem gerada por IA produzida por ChatGPT

Para este teste, usaria a imagem a seguir, que é uma recriação da imagem do cachorro que usei na primeira tarefa, feita por Bate-papoGPT:

Resposta:

A falta de parceiros realmente atinge fortemente o algoritmo. A ausência de SynthID na imagem levou o modelo a analisar seu conteúdo e a fazer suposições descontroladas. A modelo concluiu que possivelmente se trata de uma pintura, o que não é o caso.

Veredicto

Foi um passeio selvagem. Onde SynthID e Gemini em geral brilharam em algumas modalidades, seu desempenho nas demais deixa muito a desejar. Aqui estão algumas coisas que descobri ao usar a funcionalidade SynthID do Gemini:

1. Tempos de resposta muuuuito longos: Se modo de pensamento estiver habilitado, o tempo de resposta do modelo, mesmo com imagens modestas (como aquelas com marca d’água Gemini), pode ser superior a 2 minutos.

2. Falhas frequentes: Se a imagem estiver se mostrando difícil para o modelo detectar conteúdo de IA, às vezes o Gemini travaria imediatamente. Este foi o caso se a detecção de IA foi tentada em pensamento bate-papos habilitados.
3. Limitações do aplicativo Gemini: O aplicativo Gemini não suporta vídeos no momento. As respostas atingem o limite com muita frequência e a qualidade da resposta também é muito pior.

4. Variação na qualidade da resposta: Embora o modelo tenha detectado imagens e vídeos com segurança, sua resposta em texto gerado por IA não foi equivalente.
5. Conveniência acima da Excelência: O modelo tenta conjecturar os resultados usando informações vagas sobre o seguimento do protocolo. O que significa que preferiria sinais reveladores do que executar sua rotina de detecção de IA para chegar a uma conclusão.

Conclusão

Este é o substituto para o seu detector de IA? Tipo de. Se o requisito for a detecção de mídia visible por IA, a ferramenta será útil. Teve um desempenho excepcional com imagens e vídeos e ofereceu um raciocínio sólido. Com o texto, parecia um pouco dogmático, tentando retroceder tudo para um padrão de IA.

Mas, como muitas outras ofertas do Google, é um passo na direção certa. A base é realmente sólida. Com cada vez mais parceiros chegando para oferecer essa marca d’água em sua geração de IA, o modelo certamente melhoraria com o tempo.

TLDR: Use o Google AI Studio para detecção de IA de conteúdo.

Perguntas frequentes

Sou especializado em revisar e refinar pesquisas, documentação técnica e conteúdo orientados por IA relacionados a tecnologias emergentes de IA. Minha experiência abrange treinamento de modelos de IA, análise de dados e recuperação de informações, o que me permite criar conteúdo que seja tecnicamente preciso e acessível.