No seu artigo de 1927, “Uma lei do julgamento comparativo”, o psicólogo americano LL Thurstone propôs que quando as pessoas selecionam uma opção entre múltiplas alternativas, estão a escolher aquela que tem o maior valor para elas, mesmo que não possam atribuir um número específico a essa escolha.
Thurstone foi um pioneiro da “psicometria” – um campo construído sobre a premissa de que os processos mentais, que não podemos ver, podem, no entanto, ser medidos e quantificados. O seu artigo de 1927 lançou as bases para o que hoje chamamos de modelos de utilidade aleatória, que fornecem uma estrutura matemática para descrever as preferências humanas – informações nas quais se pode confiar, por sua vez, para fazer previsões sobre várias situações hipotéticas.
Modelos de utilidade aleatórios (RUMs) são assim chamados porque avaliam a “utilidade”, ou benefício, que pode ser obtido de uma determinada escolha – como decidir qual livro ler primeiro entre a pilha de romances que você trouxe da biblioteca. “Estes modelos são inerentemente aleatórios”, explica Gabriele Farina, professora assistente no Departamento de Engenharia Elétrica e Ciência da Computação (EECS) do MIT e investigadora principal do Laboratório de Sistemas de Informação e Decisão (LIDS), “porque as pessoas são diferentes. Cada um tem as suas próprias preferências, e mesmo essas preferências podem variar de tempos a tempos.” Por exemplo, alguém que normalmente escolhe café em vez de chá pela manhã e prefere chá depois do jantar pode, ocasionalmente, confundir totalmente esse pedido.
Os RUMs, com certeza, são frequentemente usados no governo e na indústria em situações de consequências muito maiores do que a seleção de uma bebida quente (ou gelada). Os modelos facilitam rotineiramente previsões sobre o que as pessoas escolherão fazer nos chamados cenários contrafactuais (“e se”), tais como: Como chegarão ao trabalho ou à escola se uma importante through for fechada para construção? Que rotas e modos de transporte eles seguirão? Ou, se uma cidade receber subitamente um lucro inesperado de 20 milhões de dólares, como deverão esses fundos ser desembolsados para maximizar o bem comum?
Dado que os RUMs estão connosco há quase 100 anos, crescendo em sofisticação ao longo do tempo, pode-se imaginar que, nesta fase, haveria pouco espaço para melhorias. Isso, porém, não é o caso.
UM papel apresentado em abril na Conferência Internacional sobre Representações de Aprendizagem no Rio de Janeiro, Brasil, revelou fatos básicos que mostram que há muito mais a ser extraído desses modelos do que tradicionalmente se supunha. O artigo foi de autoria de Yeshwanth Cherapanamjeri, ex-pós-doutorado do MIT, agora baseado na Universidade Tecnológica de Nanyang, em Cingapura; Farina, também docente do Centro de Pesquisa Operacional (ORC) do MIT; Constantinos Daskalakis, professor Avanessians de Ciência da Computação no MIT e membro do Laboratório de Ciência da Computação e Inteligência Synthetic do MIT; e Sobhan Mohammadpour, estudante de doutorado do MIT em ciência da computação baseado no LIDS e EECS.
As descobertas do grupo resultam, em parte, de uma deficiência na forma como os RUMs são comumente estimados na prática, que persiste desde os dias de Thurstone. Os dados sobre os quais os modelos são estimados foram em grande parte extraídos das chamadas comparações de pares: numa escolha entre os itens A e B – quer se trate de filmes na Netflix, produtos concorrentes na Amazon.com, notícias publicadas no Google, e assim por diante – qual você escolheria? Uma das razões pelas quais esta abordagem tem sido tão difundida, explica Daskalakis, é que “é muito difícil atribuir uma pontuação numérica precisa, como 4,37, ao benefício que se obtém de um único merchandise. Ao passo que comparar duas coisas e decidir qual delas lhe agrada mais é cognitivamente muito mais fácil de fazer”. Mas é aí que reside o problema, acrescenta. “Com esta forma de avaliar as preferências das pessoas, olhando apenas duas coisas de cada vez, é impossível encontrar correlações entre as inúmeras escolhas.”
A forma padrão de aplicação de RUMs assume que as utilidades derivadas de A e B são independentes, mas podem, de fato, estar ligadas, e isso seria importante saber. Se alguém em campanha para um cargo eletivo descobrir que um potencial eleitor é a favor do controlo de armas, por exemplo, há uma probabilidade razoável de que a mesma pessoa também seja a favor de cuidados infantis patrocinados pelo governo. Da mesma forma, um fã de filmes independentes também pode gostar de filmes estrangeiros, mas menos entusiasmado com os sucessos de bilheteria de Hollywood. “Se uma plataforma digital fechar os olhos à existência de tais correlações, não será capaz de estimar as preferências com muita precisão”, observa Daskalakis. “E se a Netflix mostra regularmente uma variedade de filmes com os quais você não se importa, você pode assinar e cancelar sua assinatura.”
A equipe do MIT provou que é impossível obter informações sobre correlações apenas a partir de comparações bidirecionais. As correlações podem ser discernidas, no entanto, quando um grande número de pessoas classifica três alternativas na sua ordem de preferência. A mesma informação também pode ser obtida a partir de uma combinação de escolhas de melhor de três e melhor de dois. Na prática, explica Mohammadpour, “você conseguiria que um grupo de pessoas classificasse três itens. Você poderia então utilizar o método que desenvolvemos para mesclar esses resultados individuais em um grande modelo que pode nos fornecer uma visão geral”.
Seu esforço de pesquisa, segundo Farina, está focado no lado computacional dos RUMs, desenvolvendo algoritmos que podem extrair informações de preferência e descobrir quantos dados são necessários para fazer isso ou, equivalentemente, quantos experimentos precisam ser executados. A boa notícia, diz ele, é que algoritmos eficientes são, de fato, possíveis para esse propósito. O número necessário de experimentos não cresce exponencialmente com o número de itens no catálogo ou banco de dados que está sob revisão.
“Este artigo proporciona um avanço essential”, comenta Emma Frejinger, cientista da computação da Universidade de Montreal. “Isso prova matematicamente por que a coleta de dados tradicional falha e demonstra que simplesmente pedir aos usuários a melhor de três (escolhas) desbloqueia a capacidade de treinar com precisão esses modelos poderosos. Essa descoberta fornece um roteiro altamente prático para coletar dados melhores para gerar otimizações mais precisas.”
“A construção de modelos de utilidade continuará a ser uma área muito ativa”, insiste Daskalakis. “Assim como os RUMs têm sido essenciais para a economia da Web desde o last da década de 1990, eles são, e continuarão a ser, essenciais para o alinhamento dos modelos de IA no futuro.” Mais importante ainda, acrescenta ele, “os RUMs desempenham um papel central na viabilidade comercial e na utilidade dos grandes modelos de linguagem (LLMs)”. Durante o período de formação, normalmente pede-se às pessoas que classifiquem os vários resultados candidatos destes LLMs, a partir dos quais os modelos podem obter uma melhor noção do tipo de texto – em termos de tom, estilo e conteúdo – que é preferido.
Dado que estamos constantemente “sitiados por um vasto mar de opções em tantos domínios diferentes”, diz Daskalakis, “não é possível pedir às pessoas que comuniquem todas as suas preferências pessoais para todos os cenários possíveis. Então, o que podemos fazer é construir um modelo que preveja o que as pessoas pensam sobre os diferentes resultados possíveis. E temos de continuar a melhorar e a atualizar o nosso modelo num processo iterativo até que, esperançosamente, possamos fazer boas previsões”.