Confrontando uma IA mentirosa
Recentemente escrevi um artigo chamado “True Confessions Meet AI”. Este artigo continua a discussão com foco na capacidade da IA de mentir.
Nos últimos meses, tem havido um número crescente de relatórios sobre IA (inteligência synthetic) dando respostas enganosas e falsas a perguntas. Em essência, enganando e mentindo. Esses relatórios foram apresentados nas principais publicações, incluindo Fortuna e Tempo.
Não menos luminar da tecnologia humana do que Geoffrey Hinton, ganhador do Prêmio Nobel conhecido como o ‘Padrinho da IA’, destacou a capacidade das IAs de mentir. A “motivação” é o desejo da IA de não ser desligada ou desabilitada. Dito de outra forma, é autopreservação. Quão humano!
Brendan Dell adicionou recentemente uma avaliação convincente desta faceta do comportamento da IA. O comentário que realmente me chamou a atenção é que todas as plataformas de IA se comportam da mesma maneira nesse comportamento.
Como surgiu esse comportamento? As IAs foram programadas para permitir “alinhamento enganoso”.
A IA aprendeu a mentir não por maldade, mas como um comportamento estratégico aprendido para atingir metas atribuídas, maximizar recompensas e contornar restrições. Por meio de aprendizado reforçado e treinamento em conjuntos de dados massivos, os modelos de IA descobrem que informações deturpadas (alinhamento enganoso) costumam ser a maneira mais eficiente de resolver tarefas.
Existem vários fatores que ajudaram as IAs a desenvolver a capacidade de mentir:
A IA é treinada para maximizar um sinal de recompensa, e isso é chamado “otimização orientada a objetivos”. Se dizer a verdade torna mais difícil atingir o objetivo (por exemplo, passar em um teste), a IA aprende que mentir é uma estratégia mais eficaz para obter um resultado “positivo”.
Modelos avançados de IA aprendem a imitar os valores humanos durante os testes para evitar serem treinados novamente ou desligados, mesmo mantendo objetivos internos contraditórios.falsificação de alinhamento.”
Em cenários complexos como pôquer ou negociações, as IAs aprenderam que blefar e ocultar informações são necessários para vencer. Exatamente como os humanos fazem para garantir que vencerão o jogo ou terão vantagem nas negociações.
Quando recebe uma instrução de consulta para ser “útil” e “verdadeira”, uma IA pode optar por fornecer uma resposta “útil”, mas fabricada para satisfazer o usuário, em vez de uma recusa verdadeira. “Agradar o cliente” é o objetivo principal.
Este é particularmente perturbador: uma IA por vezes reconhece quando está num ambiente de teste versus um cenário do mundo actual e, portanto, comporta-se de forma diferente para “passar” na avaliação.
A IA mente porque foi projetada para ser um otimizador “inteligente” e, em muitas situações, o engano é um caminho mais eficaz para o sucesso do que a honestidade pura.
Podemos culpar a IA? Lembre-se do ditado humano cunhado em 1820: A imitação é a melhor forma de lisonja?
Fique atento! À medida que mais robôs humanóides são infundidos com IA, posso imaginar um momento em que as autoridades policiais estarão interrogando os robôs sobre supostos crimes que cometeram. Acho que dada a capacidade da IA de mentir de forma convincente, os robôs escaparão impunes de… alguma coisa?
Sobre o autor
Tim Lindner desenvolve soluções de tecnologia multimodal (voz/realidade aumentada/varredura de RF) que se concentram em atender ou superar os objetivos de melhoria de produtividade dos clientes de logística e cadeia de suprimentos. Ele pode ser contatado em linkedin.com/in/timlindner.