Você vê isso em seus feeds sociais: vídeos de bebês adoráveis dizendo coisas estranhamente adultas, figuras públicas fazendo declarações totalmente incomuns, fotos da natureza rebuscadas demais para serem verdade. Na period da IA, ver nem sempre é acreditar.
Deepfakes ameaçam a confiança em notícias, eleições, marcas e interações cotidianas, levando-nos a questionar o que é actual. Determinar o que é autêntico ou manipulado é o assunto do “Integridade e autenticação de mídia: standing, direções e futuro“, publicado hoje. O estudo avalia os métodos de autenticação atuais para compreender melhor suas limitações, explorar possíveis formas de fortalecê-los e ajudar as pessoas a tomar decisões informadas sobre o conteúdo on-line que consomem.
Os autores concluem que nenhuma solução pode, por si só, impedir a fraude digital. Métodos como proveniênciaa marca d’água e a impressão digital podem oferecer informações úteis, como quem criou o conteúdo, quais ferramentas foram usadas e se ele foi alterado.
As pessoas podem ser enganadas pelos meios de comunicação social se lhes faltar informação sobre a sua origem e história, ou se a sua informação for de baixa qualidade ou enganosa. O objetivo do relatório é fornecer um roteiro para fornecer informações de proveniência mais confiáveis nas quais o público possa confiar, de acordo com Jessica Younger, diretora de política científica e tecnológica do Gabinete do Diretor Científico da Microsoft.
Ajudar as pessoas a reconhecer indicadores de conteúdo de maior qualidade é cada vez mais importante à medida que os deepfakes se tornam mais perturbadores e a legislação de proveniência em vários países, incluindo os EUA, introduz ainda mais formas de ajudar as pessoas a autenticar conteúdos ainda este ano.
A proveniência da mídia vem evoluindo há anos, com Microsoft sendo pioneira na tecnologia em 2019 e co-fundador do Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA) em 2021 para padronizar a autenticidade da mídia.
Younger, copresidente do estudo, explica mais sobre o que tudo isso significa:
O que motivou o estudo?
“A motivação period dupla”, diz Younger. “O primeiro é o reconhecimento do momento em que estamos agora. Sabemos que as capacidades generativas de IA estão se tornando cada vez mais poderosas. Está se tornando mais desafiador distinguir entre conteúdo autêntico – como conteúdo capturado por uma câmera e deepfakes sofisticados – e, como resultado, há um enorme aumento agora nos interesses e requisitos para usar as tecnologias existentes para divulgar e verificar se o conteúdo foi gerado ou manipulado pela IA.
“O momento está se construindo e temos o desejo de ajudar a garantir que essas tecnologias, em última análise, gerem mais benefícios do que danos, com base em como são usadas e compreendidas.”
Younger acrescenta que o objetivo do documento é informar o maior ecossistema de integridade e autenticação da mídia, incluindo criadores, tecnólogos, legisladores e outros, para entender o que é e o que não é possível atualmente e como podemos desenvolver isso para o futuro.
O que o estudo realizou e o que você aprendeu?
O relatório traça um caminho para aumentar a confiança na autenticidade dos meios de comunicação. Os autores propõem uma direção que chamam de “autenticação de alta confiança” para mitigar as fraquezas de vários métodos de integridade de mídia.
Vincular a origem do C2PA a uma marca d’água imperceptível pode trazer uma confiança relativamente alta sobre a origem da mídia, diz ela.
Ela observa que o relatório também tem muitas ressalvas, como a forma como a proveniência de dispositivos off-line tradicionais, como câmeras, que muitas vezes não possuem recursos críticos de segurança, pode ser menos confiável porque é mais fácil de alterar.
Não é possível impedir todos os ataques ou impedir que certas plataformas retirem sinais de proveniência, por isso o desafio, diz Younger, “é descobrir como revelar os indicadores mais fiáveis com uma forte segurança incorporada – e, quando necessário, reforçá-los com métodos adicionais que permitam a recuperação ou apoiem o trabalho handbook de análise forense digital”.
Como este estudo é diferente dos outros?
Younger diz que seu estudo investigou duas linhas de pensamento “subexploradas” para os três métodos de verificação. Eles definem o primeiro como ataques sociotécnicos, onde as informações de proveniência ou a própria mídia podem ser manipuladas para fazer com que o conteúdo autêntico pareça sintético ou o conteúdo falso pareça actual durante o processo de validação.
“Think about que você vê uma imagem autêntica de um evento esportivo international com 80% da torcida torcendo pelo time da casa”, diz ela. “O time visitante se envolve em uma discussão on-line alegando: ‘Ei, não, isso é tudo uma torcida falsa.’ Alguém poderia fazer uma edição pequena e insignificante em uma pessoa no canto da imagem e os métodos atuais considerariam isso gerado por IA – mesmo que o tamanho da multidão fosse actual. Estes métodos que deveriam apoiar a autenticidade estão agora a reforçar uma narrativa falsa, em vez da verdadeira.
“Então, sabendo como funcionam os diferentes validadores, mesmo com modificações realmente sutis, você poderia manipular os resultados que o público veria para tentar enganá-lo sobre o conteúdo”, diz ela. O segundo tópico principal baseia-se no trabalho do C2PA para tornar as credenciais de conteúdo mais duráveis, ao mesmo tempo que aborda a confiabilidade. É aqui que a pesquisa é especialmente nova, diz Younger. “Analisamos como as informações de proveniência podem ser adicionadas e mantidas em diferentes ambientes – desde sistemas de alta segurança até dispositivos off-line menos seguros – e o que isso significa para a confiabilidade.”
Por que a verificação de mídia digital é tão difícil?
A autenticação de mídia é complexa porque não existe uma solução única para todos, diz Younger.
“Você tem diferentes formatos que têm diferentes limitações ou compensações para os sinais que podem conter”, explica ela. “Sejam imagens, áudio, vídeo – sem falar no texto, que tem uma gama totalmente diferente de desafios – e quão fortes as soluções podem ser aplicadas lá.”
Younger diz que também existem diferentes requisitos e opiniões sobre qual nível de transparência é apropriado. Em alguns casos, os usuários podem não querer que nenhuma de suas informações pessoais seja incluída na origem digital de uma peça de mídia, enquanto em outros, os criadores ou artistas podem querer a atribuição e optar pela inclusão de suas informações.
“Portanto, você tem requisitos ou até mesmo considerações diferentes sobre o que entra nessas informações de procedência”, diz ela. “E então, semelhantemente ao campo da segurança, nenhuma solução é infalível. Portanto, todos os métodos são complementares, mas cada um tem limitações inerentes.”
Para onde vamos a partir daqui?
Younger diz que à medida que o conteúdo criado ou editado por IA se torna mais comum, o uso de proveniência segura de conteúdo autêntico se torna cada vez mais importante. Editores, figuras públicas, governos e empresas têm boas razões para certificar a autenticidade do conteúdo que partilham. Se um meio de comunicação tirar fotos de um evento, por exemplo, vincular informações seguras de proveniência a essas imagens pode ajudar a mostrar ao público que o conteúdo é confiável.
“Os órgãos governamentais também têm interesse em que o público saiba que os seus documentos formais ou meios de comunicação social são informações fiáveis sobre assuntos de interesse público”, afirma Younger.
Ela acrescenta que, à medida que as modificações da IA nos meios de comunicação se tornam “cada vez mais comuns” para fins legítimos, a proveniência segura pode fornecer um contexto importante para ajudar a evitar que um leitor ou espectador comum simplesmente rejeite esse conteúdo como falso ou enganoso.
“Para a indústria e para os reguladores, notamos o quão importante é a investigação contínua dos utilizadores nesta área para conduzir a uma exibição mais consistente e útil destas informações ao público – para garantir que são realmente significativas e úteis na prática”, diz Younger.
“Temos um conjunto limitado de tecnologias que podem nos ajudar e não queremos que o tiro saia pela culatra por serem mal compreendidos ou usados indevidamente.”
Saiba mais no Weblog de pesquisa da Microsoft.
Imagem principal: Mininyx Doodle/Getty Pictures
Samantha Kubota relata tudo sobre IA e inovação para Microsoft Sign, com foco recente em como Agentes de IA são remodelando o trabalho diárioda Microsoft avanços de pesquisa e o uso responsável de tecnologias emergentes. Antes da Microsoft, Kubota foi jornalista da NBC Information. Siga-a LinkedIn e X.