Entre os benefícios que a tomada de decisão algorítmica e a inteligência synthetic oferecem – incluindo a velocidade revolucionária, a eficiência e a capacidade preditiva numa vasta gama de campos – Manish Raghavan está a trabalhar para mitigar os riscos associados, ao mesmo tempo que procura oportunidades para aplicar as tecnologias para ajudar com problemas pré-existentes. preocupações sociais.
“Em última análise, quero que minha pesquisa busque melhores soluções para problemas sociais de longa knowledge”, diz Raghavan, professor de desenvolvimento de carreira Drew Houston na Sloan College of Administration do MIT e no Departamento de Engenharia Elétrica e Ciência da Computação e pesquisador principal do Laboratório para Sistemas de Informação e Decisão (LIDS).
Um bom exemplo da intenção de Raghavan pode ser encontrado em sua exploração do uso da IA na contratação.
Raghavan diz: “É difícil argumentar que as práticas de contratação historicamente têm sido particularmente boas ou que valem a pena preservar, e as ferramentas que aprendem com os dados históricos herdam todos os preconceitos e erros que os humanos cometeram no passado”.
Aqui, porém, Raghavan cita uma oportunidade potencial.
“Sempre foi difícil medir a discriminação”, diz ele, acrescentando: “Os sistemas baseados em IA são por vezes mais fáceis de observar e medir do que os humanos, e um dos objectivos do meu trabalho é compreender como podemos aproveitar esta visibilidade melhorada para chegar a novas maneiras de descobrir quando os sistemas estão se comportando mal.”
Crescendo na área da baía de São Francisco, com pais formados em ciência da computação, Raghavan diz que originalmente queria ser médico. Pouco antes de começar a faculdade, porém, seu amor pela matemática e pela computação o incentivou a seguir o exemplo de sua família na ciência da computação. Depois de passar um verão como aluno de graduação fazendo pesquisas na Universidade Cornell com Jon Kleinberg, professor de ciência da computação e ciência da informação, ele decidiu que queria fazer seu doutorado lá, escrevendo sua tese sobre “Os impactos sociais da tomada de decisões algorítmicas”.
Raghavan ganhou prêmios por seu trabalho, incluindo o prêmio do Programa de Bolsas de Pesquisa de Pós-Graduação da Nationwide Science Basis, uma bolsa de doutorado em pesquisa da Microsoft e o prêmio de dissertação de doutorado do Departamento de Ciência da Computação da Universidade Cornell.
Em 2022, ingressou no corpo docente do MIT.
Talvez remetendo ao seu interesse inicial pela medicina, Raghavan pesquisou se as determinações de uma ferramenta de triagem algorítmica altamente precisa usada na triagem de pacientes com sangramento gastrointestinal, conhecida como Pontuação de Glasgow-Blatchford (GBS), são melhoradas com análises complementares de especialistas. conselho médico.
“O GBS é quase tão bom quanto os humanos, em média, mas isso não significa que não existam pacientes individuais, ou pequenos grupos de pacientes, onde o GBS esteja errado e os médicos provavelmente estejam certos”, diz ele. “Nossa esperança é que possamos identificar esses pacientes com antecedência, para que o suggestions dos médicos seja particularmente valioso”.
Raghavan também trabalhou na forma como as plataformas on-line afetam os seus utilizadores, considerando como os algoritmos das redes sociais observam o conteúdo que um utilizador escolhe e depois mostram-lhes mais desse mesmo tipo de conteúdo. A dificuldade, diz Raghavan, é que os usuários podem escolher o que veem da mesma forma que escolhem um pacote de batatas fritas, que são deliciosas, mas não tão nutritivas. A experiência pode ser satisfatória no momento, mas pode deixar o usuário um pouco enjoado.
Raghavan e seus colegas desenvolveram um modelo de como um usuário com desejos conflitantes – de gratificação imediata versus desejo de satisfação de longo prazo – interage com uma plataforma. O modelo demonstra como o design de uma plataforma pode ser alterado para encorajar uma experiência mais saudável. O modelo ganhou o prêmio Exemplary Utilized Modeling Monitor Paper na Conferência de Economia e Computação da Affiliation for Computing Equipment de 2022.
“A satisfação a longo prazo é, em última análise, importante, mesmo que tudo o que importa sejam os interesses da empresa”, diz Raghavan. “Se conseguirmos começar a construir provas de que os interesses dos utilizadores e das empresas estão mais alinhados, a minha esperança é que possamos promover plataformas mais saudáveis sem necessidade de resolver conflitos de interesses entre utilizadores e plataformas. Claro, isso é idealista. Mas a minha sensação é que um número suficiente de pessoas nestas empresas acredita que há espaço para tornar todos mais felizes e só lhes faltam as ferramentas conceptuais e técnicas para fazer isso acontecer.”
Em relação ao seu processo de apresentar ideias para tais ferramentas e conceitos sobre como aplicar melhor as técnicas computacionais, Raghavan diz que suas melhores ideias surgem quando ele está pensando sobre um problema por um tempo. Ele aconselharia seus alunos, diz ele, a seguir seu exemplo de deixar de lado um problema muito difícil por um dia e depois voltar a ele.
“Muitas vezes as coisas melhoram no dia seguinte”, diz ele.
Quando não está resolvendo um problema ou ensinando, Raghavan pode muitas vezes ser encontrado ao ar livre, em um campo de futebol, como técnico do Harvard Males’s Soccer Membership, uma posição que ele preza.
“Não posso procrastinar se sei que terei que passar a noite no campo, e isso me dá algo pelo que ansiar no remaining do dia”, diz ele. “Tento ter em minha agenda coisas que me pareçam pelo menos tão importantes quanto o trabalho para contextualizar esses desafios e contratempos.”
Enquanto Raghavan considera como aplicar tecnologias computacionais para melhor servir o nosso mundo, ele diz que acha que o que há de mais interessante em seu campo é a ideia de que a IA abrirá novos insights sobre “os humanos e a sociedade humana”.
“Espero”, diz ele, “que possamos usá-lo para nos compreender melhor”.