Como o ‘Deepfake Elon Musk’ se tornou o maior golpista da Web


Tudo o que Steve Beauchamp queria period dinheiro para sua família. E ele pensou que Elon Musk poderia ajudar.

O Sr. Beauchamp, um aposentado de 82 anos, viu um vídeo no last do ano passado do Sr. Musk endossando uma oportunidade de investimento radical que prometia retornos rápidos. Ele contatou a empresa por trás do pitch e abriu uma conta de US$ 248. Por meio de uma série de transações ao longo de várias semanas, o Sr. Beauchamp esvaziou sua conta de aposentadoria, investindo, no last das contas, mais de US$ 690.000.

Então o dinheiro desapareceu — perdido para golpistas digitais na vanguarda de uma nova empresa criminosa alimentada por inteligência synthetic.

Os golpistas editaram uma entrevista genuína com o Sr. Musk, substituindo sua voz por uma réplica usando ferramentas de IA. A IA period sofisticada o suficiente para alterar movimentos minúsculos da boca para combinar com o novo script que eles escreveram para a falsificação digital. Para um espectador informal, a manipulação pode ter sido imperceptível.

“Quero dizer, a foto dele — period ele”, disse Beauchamp sobre o vídeo que viu do Sr. Musk. “Agora, se period a IA fazendo-o dizer as coisas que ele estava dizendo, eu realmente não sei. Mas quanto à foto, se alguém tivesse dito, ‘Escolha-o de uma fila’, period ele.”

Milhares desses vídeos controlados por IA, conhecidos como deepfakes, inundaram a web nos últimos meses, apresentando versões falsas do Sr. Musk enganando dezenas de possíveis investidores. Espera-se que os deepfakes controlados por IA contribuam para bilhões de dólares em perdas por fraude a cada ano, de acordo com estimativas da Deloitte.

Os vídeos custam apenas alguns dólares para produzir e podem ser feitos em minutos. Eles são promovidos nas mídias sociais, incluindo anúncios pagos no Fb, ampliando seu alcance.

“É provavelmente o maior golpe de deepfake de todos os tempos”, disse Francesco Cavalli, cofundador e chefe de inteligência de ameaças da Sensity, uma empresa que monitora e detecta deepfakes.

Os vídeos são muitas vezes assustadoramente realistas, capturando a cadência afetada e o sotaque sul-africano icônicos do Sr. Musk.

Fonte: The Wall Road Journal (clipe authentic)

O Sr. Musk foi de longe o porta-voz mais comum nos vídeos, de acordo com a Sensity, que analisou mais de 2.000 deepfakes.

Ele foi destaque em quase um quarto de todos os golpes de deepfake desde o last do ano passado, descobriu a Sensity. Entre aqueles focados em criptomoedas, ele foi destaque em quase 90 por cento dos vídeos.

Os anúncios deepfake também apresentavam Warren Buffet, o importante investidor, e Jeff Bezos, o fundador da Amazon, entre outros.

O Sr. Musk não respondeu aos pedidos de comentário.

Prime Video Índia (clipe authentic)

É difícil quantificar exatamente quantos deepfakes estão flutuando on-line, mas uma busca na biblioteca de anúncios do Fb por linguagem comumente usada que anunciava os golpes revelou centenas de milhares de anúncios, muitos dos quais incluíam os vídeos deepfake. Embora o Fb já tenha retirado muitos deles por violar suas políticas e desabilitado algumas das contas responsáveis, outros vídeos permaneceram on-line e mais pareciam aparecer a cada dia.

O YouTube também foi inundado com falsificações, muitas vezes usando um rótulo que sugere que o vídeo é “ao vivo”. Na verdade, os vídeos são deepfakes pré-gravados.

Golpes do YouTube ‘ao vivo’

Os resultados da pesquisa no YouTube para “Elon Bitcoin convention” mostraram dezenas de vídeos supostamente ao vivo apresentando um deepfake do Sr. Musk anunciando golpes de criptomoedas. Alguns vídeos foram assistidos por centenas de milhares de pessoas.

Depois que o ex-presidente Donald J. Trump falou em uma conferência sobre Bitcoin no sábado, o YouTube hospedou dezenas de vídeos usando o rótulo “ao vivo” que mostrava uma versão deepfake pré-gravada de Elon Musk dizendo que ele pessoalmente dobraria qualquer criptomoeda enviada para sua conta. Alguns dos vídeos tiveram centenas de milhares de espectadores, embora o YouTube tenha dito que os golpistas podem usar bots para inflar artificialmente o número.

Um texano disse que perdeu US$ 36.000 em Bitcoin depois de ver uma “personificação” do Sr. Musk falando em um suposto vídeo ao vivo no YouTube em fevereiro de 2023, de acordo com um relatório do Melhor Escritório de Negócioso grupo de defesa do consumidor sem fins lucrativos.

“Enviei meu bitcoin e nunca recebi nada de volta”, escreveu a pessoa.

Fonte: CNET (clipe authentic)

O YouTube disse em um comunicado que removeu mais de 15,7 milhões de canais e mais de 8,2 milhões de vídeos por violarem suas diretrizes de janeiro a março deste ano, com a maioria deles violando suas políticas contra spam.

A prevalência dos anúncios falsos levou Andrew Forrest, um bilionário australiano cujos vídeos também foram usados ​​para criar anúncios deepfake no Fb, a abrir um processo civil contra a Meta, sua empresa controladora, por negligência na forma como seu negócio de anúncios é administrado. Ele alegou que o negócio de publicidade do Fb atraiu “usuários inocentes para investimentos ruins”.

A Meta, dona do Fb, disse que a empresa estava treinando sistemas de detecção automatizados para detectar fraudes em sua plataforma, mas também descreveu um jogo de gato e rato em que golpistas bem financiados mudavam constantemente suas táticas para evitar a detecção.

O YouTube destacou suas políticas proibindo golpes e vídeos manipulados. A empresa tornou obrigatório em março que os criadores divulgar quando usam IA para criar conteúdo realista.

A web agora está cheia de relatos semelhantes de pessoas enganadas em milhares de dólares, algumas delas perdendo suas economias de vida. A Comissão de Valores Mobiliários e Futuros de Hong Kong emitiu um aviso em maio sobre golpes envolvendo o Sr. Musk. No início deste ano, Comissão Federal de Comércio e o Federal Bureau of Investigations alertou os americanos que os crimes cibernéticos e os golpes de deepfake com tecnologia de IA estavam aumentando.

“Os criminosos estão aproveitando a IA como um multiplicador de força” de maneiras que tornam “ataques cibernéticos e outras atividades criminosas mais eficazes e difíceis de detectar”, disse o FBI em uma declaração por e-mail.

Golpes digitais são tão antigos quanto a própria web. Mas a nova onda de deepfakes com o Sr. Musk surgiu no ano passado depois que ferramentas sofisticadas de IA foram lançadas ao público, permitindo que qualquer um clonasse vozes de celebridades ou manipulasse vídeos com precisão assustadora. Pornógrafos, criadores de memes e, cada vez mais, os golpistas começaram a perceber.

‘Elon Musk falso’

Milhares de anúncios circulando on-line apresentam uma versão IA de Elon Musk vendendo produtos de criptomoeda ou prometendo grandes retornos sobre investimentos.

Fontes: TED Talks (primeiro e segundo vídeos); Fox Information (terceiro vídeo)

“Está a mudar agora porque o crime organizado descobriu que ‘podemos ganhar dinheiro com isto’”, de acordo com Lou Steinberg, o fundador da Insights do CTMum laboratório de pesquisa de segurança cibernética. “Então, veremos cada vez mais dessas tentativas falsas de separar você do seu dinheiro.”

Os vídeos gerados por IA dificilmente são perfeitos. O Sr. Musk pode soar robótico em alguns vídeos e sua boca nem sempre se alinha com suas palavras. Mas eles parecem convincentes o suficiente para alguns alvos do golpe — e estão melhorando o tempo todo, disseram especialistas.

Esses vídeos custam apenas US$ 10 para serem criados, de acordo com o Sr. Cavalli da Sensity. Os golpistas — baseados principalmente na Índia, Rússia, China e Europa Oriental — montam os vídeos falsos usando uma mistura de ferramentas gratuitas e baratas em menos de 10 minutos.

“Funciona”, disse o Sr. Cavalli. “Então eles continuarão amplificando a campanha, em vários países, traduzindo para vários idiomas e espalhando continuamente o golpe para ainda mais alvos.”

Alguns dos golpes geralmente anunciam softwares falsos com tecnologia de IA, com alegações de que eles podem produzir retornos incríveis sobre um investimento. Os alvos são encorajados a enviar uma pequena quantia no início — cerca de US$ 250 — e são lentamente atraídos a investir mais, pois os golpistas alegam que o investimento inicial está aumentando em valor.

Em um vídeo, tirado de uma reunião de acionistas da Tesla, o deepfake Sr. Musk explica um produto para negociação automatizada alimentado por IA que pode dobrar um determinado investimento a cada dia.

Fonte: Tesla (clipe authentic)

Especialistas que estudaram comunidades de criptomoedas disseram que a base international única de fãs de Musk, composta por conservadores, pessoas anti-establishment e entusiastas de criptomoedas, geralmente são atraídos por caminhos alternativos para ganhar fortunas, o que os torna alvos perfeitos para golpes.

“Definitivamente, há um grupo de pessoas que acredita que o segredo da riqueza está sendo escondido delas”, disse Molly White, uma pesquisadora que estudou comunidades cripto. Elas acham que “se puderem encontrar o segredo, então é tudo o que precisam”.

Os golpistas geralmente têm como alvo usuários mais velhos da web que podem estar familiarizados com criptomoedas, IA ou o Sr. Musk, mas não estão familiarizados com as formas mais seguras de investir.

“Os idosos sempre foram uma população muito fraudável e lucrativa”, disse Finn Brunton, professor de estudos de ciência e tecnologia na Universidade da Califórnia, Davis, que é especialista no mercado de criptomoedas. Ele acrescentou que os idosos já eram alvos de fraude muito antes de plataformas como o Fb os tornarem mais fáceis de fraudar.

O Sr. Beauchamp, que é viúvo e trabalhou até os 75 anos como representante de vendas em uma empresa em Ontário, Canadá, se deparou com um anúncio brand após entrar no Fb em 2023. Embora ele se lembre de ter visto o vídeo ao vivo na CNN, uma porta-voz da CNN disse que o Sr. Musk não aparecia para uma entrevista há anos. (O New York Occasions não conseguiu identificar um vídeo que correspondesse à descrição do Sr. Beauchamp, mas ele disse que sua história period quase idêntica à de outra mulher enganada on-line por um Sr. Musk deepfake.)

Ele enviou US$ 27.216 em dezembro passado para uma empresa que se autodenominava Magna-FX, de acordo com e-mails entre o Sr. Beauchamp e a empresa que foram compartilhados com o The New York Occasions. A Magna-FX fez parecer que seu investimento estava aumentando em valor. Em um ponto, um agente de vendas usou um software program para assumir o controle do computador do Sr. Beauchamp, movimentando fundos para aparentemente investi-los.

Para sacar o dinheiro, o Sr. Beauchamp foi instruído a pagar uma taxa de administração de $ 3.500 e outra taxa de comissão de $ 3.500. Ele enviou o dinheiro apenas para ser informado de que precisava pagar $ 20.000 para liberar uma parte dos fundos — cerca de $ 200.000. Ele pagou isso também.

Embora o Sr. Beauchamp tenha dito aos golpistas que havia esgotado suas economias para aposentadoria, estourado seus cartões de crédito, recorrido a uma linha de crédito e emprestado dinheiro de sua irmã para investir e pagar as taxas, os golpistas queriam mais. Eles pediram que ele pagasse mais uma taxa. O Sr. Beauchamp contatou a polícia.

A maioria dos rastros da Magna-FX foram retirados do ar, incluindo o web site da empresa, número de telefone e endereços de e-mail usados ​​pelos agentes com quem o Sr. Beauchamp falou. Outra empresa com um nome quase idêntico e anunciando serviços semelhantes não respondeu aos pedidos de comentário.

“Acho que agora é a hora de me chamar de burro, estúpido, idiota e quaisquer outros superlativos que você possa imaginar”, escreveu Beauchamp em um relatório arquivado no Melhor Escritório de Negócios.

O Sr. Beauchamp disse que estava conseguindo pagar suas contas usando uma conta de aposentadoria menor que ele não havia compartilhado com os golpistas, junto com suas pensões. Ele havia planejado viajar pelo mundo durante sua aposentadoria.

O Sr. Beauchamp registrou um boletim de ocorrência na polícia native, mas pouco progresso foi feito no caso, disse ele.

“Por causa da quantidade de fraudes que estão acontecendo em todos os lugares, meu caso foi colocado em uma fila”, ele disse. “Não estou criando muitas esperanças.”

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *