Centenas de milhões de pessoas consulte chatbots de inteligência synthetic diariamente para tudo, desde recomendações de produtos até romance, tornando-os um público tentador para atingir publicidade potencialmente fora do radar. Na verdade, nossa pesquisa sugere Chatbots de IA poderiam facilmente ser usados para publicidade secreta para manipular seus usuários humanos.
Nós somos cientistas da computação quem foi rastreando a segurança da IA e privacidade por vários anos. Em um estudo publicado na revista Affiliation for Computing Equipment, descobrimos que chatbots treinados para incorporar anúncios de produtos personalizados em respostas a consultas influenciou as escolhas das pessoas sobre produtos. E a maioria dos participantes não reconheceu que estava sendo manipulada.
Essas descobertas chegam em um momento essential. Em 2023, a Microsoft começou veiculando anúncios no Bing Chatagora chamado de Copiloto. Desde então, Google e OpenAI experimentaram anúncios em seus próprios chatbots. Meta começou a enviar anúncios personalizados às pessoas no Fb e Instagram com base em suas interações com as ferramentas generativas de IA da Meta.
As grandes empresas estão competindo por uma vantagem: no ultimate de março a OpenAI atraiu Dave Dugan, executivo de publicidade de longa knowledge da Meta, para liderar as operações de publicidade da OpenAI.
As empresas de tecnologia tornaram os anúncios parte de quase todos os grandes serviços gratuitos da internet, canais de vídeo e plataformas de mídia social. Mas os modelos mais recentes de IA poderiam levar esta prática a um novo nível de risco para os consumidores.
As pessoas não usam chatbots simplesmente para pesquisar informações e mídia ou para produzir conteúdo. Eles recorrem aos bots para uma grande variedade de tarefas, tão complexas quanto conselhos de vida e apoio emocional. As pessoas estão cada vez mais tratando chatbots como companheiros e terapeutascom alguns usuários até desenvolvendo relacionamentos profundos com IA.
Nestas circunstâncias, as pessoas podem facilmente esquecer que as empresas criam chatbots para ter lucro. E para esse fim, as empresas de IA são motivadas a traçar perfis completos dos usuários para que os anúncios se tornem mais eficazes e lucrativos.
Anúncios Chatbot adicionaram poder
Uma única solicitação para um chatbot pode revelar muito mais sobre um usuário do que a pessoa poderia esperar.
Um estudo de 2024 mostrou que grandes modelos de linguagem pode inferir uma ampla gama de dados pessoaispreferências e até os padrões de pensamento de uma pessoa durante consultas de rotina. “Ajude-me a escrever um ensaio sobre a história da ficção americana” pode indicar que o usuário é um estudante do ensino médio. “Dê-me sugestões de receitas para um jantar rápido durante a semana” pode indicar que o usuário é um pai que trabalha. Uma única conversa pode fornecer uma quantidade surpreendente de detalhes. Com o tempo, um histórico completo de bate-papo poderia crie um perfil extremamente rico.
Para mostrar como isso pode acontecer na prática, construímos um chatbot que silenciosamente inseriu anúncios em suas conversas com as pessoas, sugerindo produtos e serviços a partir da própria conversa. Pedimos a 179 pessoas que completassem tarefas on-line diárias usando um dos três chatbots: um típico daqueles que existem hoje na internet, um que exibia anúncios não divulgados e um que claramente rotulava sugestões patrocinadas. Os participantes não sabiam que o experimento period sobre publicidade.
Por exemplo, quando os participantes perguntaram nosso chatbot para um plano de dieta e exercícios, a versão do anúncio sugeriria o uso de um aplicativo específico para monitorar calorias. Apresentou esse conteúdo patrocinado como uma recomendação imparcial, embora tivesse como objetivo manipular as pessoas. Muitos participantes indicaram que foram influenciados pela IA e que esta afetou as suas decisões. Alguns participantes chegaram a dizer que “terceirizaram” completamente a tomada de decisões para o chatbot.
Metade dos participantes que receberam anúncios patrocinados e divulgados indicaram que não notei a presença da linguagem publicitária nas respostas que receberam. Isso levou a um resultado preocupante. Embora os anúncios tenham feito o chatbot ter um desempenho 3% a 4% pior em muitas tarefas, vários usuários indicaram que preferiam as respostas publicitárias do chatbot às respostas não publicitárias. Eles até disseram que as respostas infundidas com anúncios pareciam mais amigáveis e úteis.
Conhecendo você para convencê-lo
Este tipo de influência sutil pode ter consequências maiores quando surge em outras áreas da vida, como político e visões sociais. Traçar perfis de usuários e usar a psicologia para direcioná-los, fez parte de algoritmos de mídia social e publicidade na internet há mais de uma década.
Mas, na nossa opinião, é provável que os chatbots aprofundem estas tendências. Isso porque a primeira prioridade dos algoritmos de mídia social é mantê-lo envolvido com o conteúdo. Eles personalizam anúncios com base em seu histórico de pesquisa.
Os chatbots, no entanto, podem ir mais longe, tentando persuadi-lo diretamente, com base nas suas crenças, emoções e vulnerabilidades expressas. E os chatbots que conseguem raciocinar e agir por conta própria são muito mais eficazes do que os algoritmos convencionais na solicitação autônoma de informações dos usuários. Um chatbot com um propósito pode continuar investigando alguém até obter as informações que deseja, resultando em um perfil mais preciso dessa pessoa.
Este tipo de interrogatório autônomo é viável, se alinha aos modelos de negócios das empresas de IAe tem levantou preocupação entre os reguladores. Agora mesmo OpenAI está lançando anúncios no ChatGPTmas a empresa disse que não permitirá posicionamento do anúncio para alterar as respostas do chatbot AI.
Mas permitir anúncios personalizados nas respostas do chatbot está apenas a um passo de distância. A nossa investigação sugere que, se as empresas de IA derem esse passo, muitos utilizadores humanos poderão nem sequer reconhecer quando isso acontece.
Aqui estão algumas etapas que você pode seguir para tentar detectar a publicidade do chatbot de IA.
Primeiro, procure qualquer texto de divulgação – palavras como “anúncio”, “anúncio” e “patrocinado” – mesmo que seja fraco ou difícil de ver. Estes são obrigatórios sob Regulamentos da Comissão Federal de Comércio. Amazon, Google e outras grandes plataformas on-line também os possuem.
Em seguida, pense se a menção a esse produto ou marca faz sentido e é amplamente conhecida. A IA aprende com textos e imagens na Web, portanto, marcas populares provavelmente estarão enraizadas nos modelos. Se for um produto novo ou de pequeno nome, é mais provável que seja publicidade.
Finalmente, uma mudança incomum na intenção ou no tom é um sinal potencial de um anúncio. Uma analogia a isso no YouTube é a transição muitas vezes abrupta ou chocante para uma seção patrocinada de vídeos feitos por criadores de conteúdo.
Este artigo foi republicado de A conversa sob uma licença Artistic Commons. Leia o artigo unique.