Em 30 de abril, o MIT Schwarzman Faculty of Computing’s Responsabilidades Sociais e Éticas da Computação (SERC) acolheu um simpósio de investigação de um dia inteiro que examinou como a inteligência synthetic está a moldar o mundo e as suas implicações para a sociedade.
O simpósio incluiu palestras de pesquisa dos mais recentes beneficiários de subsídios iniciais do SERC sobre tópicos como previsão de poluição do ar e implantação responsável de visão computacional, painéis sobre alinhamento de IA e IA na educação, e um discurso de Jon Kleinberg PhD ’96, professor de Ciência da Computação e Ciência da Informação da Universidade Tisch na Universidade Cornell. O evento também contou com uma sessão de pôsteres, onde estudantes pesquisadores apresentaram projetos eles trabalharam durante todo o ano como Acadêmicos do SERC.
“Há tantas pesquisas incríveis sendo feitas no MIT sobre como a IA e a computação podem ser forças para o bem que beneficiam a humanidade. Foi inspirador ver tanto interesse da comunidade em todo esse trabalho de ponta”, disse Brian Hedden, co-reitor associado do SERC e professor de filosofia, que ocupa um cargo compartilhado no MIT Schwarzman Faculty of Computing com o Departamento de Engenharia Elétrica e Ciência da Computação (EECS).
“À medida que a computação e a IA se tornam cada vez mais incorporadas em quase todas as dimensões da sociedade, a missão do SERC é ajudar a garantir que a reflexão ética e o progresso técnico avançam juntos”, disse Nikos Trichakis, reitor associado do SERC e professor de gestão da JC Penney. “O simpósio deste ano destaca a extraordinária variedade de trabalhos em andamento no MIT e cria um fórum para que nossa comunidade se envolva profundamente com as responsabilidades que acompanham a definição do futuro da computação.”
Alinhando a IA com os valores humanos – e quais valores esses podem ser
Os desafios com o alinhamento da IA e a integração ethical residem nas questões éticas de como incutir “valores humanos” numa tecnologia muito poderosa e em rápida mudança. Quem toma a decisão sobre quais valores e racionalidades estão incluídos num quadro ético? Como contabilizar a distorção ao traduzir esses valores do usuário para a máquina?
Estas questões, entre outras, foram colocadas por Dylan Hadfield-Menell, professor associado do EECS, durante um painel que moderou e que reuniu um grupo interdisciplinar de oradores.
Iason Gabriel, filósofo e cientista pesquisador do Google DeepMind, usou o exemplo de um juiz para ilustrar seu ponto de vista. “Você quer que um juiz tenha bom caráter, mas ainda assim interprete as regras. Uma pessoa razoável, embora não necessariamente a melhor pessoa que já existiu. Quando se trata de IA, não é apropriado modelá-la como perfeita. A IA deveria estar fazendo o que lhe mandamos, enquanto usa seu caráter para interpretar de acordo com nossos valores morais.”
Bailey Flanigan, professor assistente de ciência política em um cargo compartilhado com o MIT Schwarzman Faculty of Computing no EECS, deu um passo adiante. Para ela, o problema mais importante para o alinhamento da IA é “resolver questões fundamentais sobre quem tem o direito de governar os diferentes tipos de sistemas de IA em primeiro lugar”.
Juntando-se a Flanigan no painel estava Bernado Zacka, professor associado de ciência política. Dada a dinâmica da IA e dos designs institucionais complexos, Zacka expressou, “um dos problemas mais urgentes é compreender a sabedoria contida nos sistemas que estamos a substituir e por que razão funcionam da forma como funcionam”.
À medida que a pressão de implantação aumenta, muitas vezes pode parecer que as pessoas estão a construir o avião enquanto o pilotam, embora os painelistas em geral parecessem optimistas sobre a trajectória do alinhamento da IA, enfatizando como os componentes humanos são cruciais para moldar estes sistemas.
Descarregamento versus elevação
À medida que os alunos de todos os níveis de ensino começam a utilizar a IA, surgem questões sobre se existe uma forma de incorporar eticamente as ferramentas de IA, mantendo ao mesmo tempo a precisão e o rigor académicos. Num painel sobre IA e educação, o corpo docente do MIT e Marta McAlister, diretora do Gemini for Schooling, exploraram como a IA já está a ser utilizada nas suas salas de aula e discutiram formas de apoiar a aprendizagem, mantendo-se alinhada com os objetivos instrucionais e curriculares.
Os professores Eric Klopfer e Samuel Madden, co-presidentes do Comitê Advert Hoc do MIT sobre Uso de IA no Ensino, Aprendizagem e Treinamento em Pesquisa, focaram no dilema central de saber se a IA está sendo usada para descarregar o trabalho, em vez de ser usada para ajudar a estruturar os conceitos que estão sendo ensinados.
Madden, chefe do corpo docente de ciência da computação no EECS e professor ilustre do MIT Faculty of Computing, descreveu o processo de luta cognitiva, por meio do qual o aprendizado é feito por meio de uma série de tentativas e fracassos. Ele disse: “Os alunos agora, quando atingem aquela barreira, seu primeiro instinto é perguntar à IA. Eles não veem isso como uma excelência neste processo e não adquiriram realmente a habilidade que você está avaliando”. A questão então passa a ser como os instrutores mantêm o processo de luta cognitiva de modo que ele forneça um desafio suficiente para combater o desejo de usar a IA.
Klopfer, que atua como diretor do Programa Scheller de Formação de Professores e do Schooling Arcade no MIT, expressou sentimentos semelhantes, no sentido de que o pensamento crítico não está mais se tornando uma etapa essential na produção do trabalho. Sobre por onde começar para manter o materials suficientemente desafiador, Klopfer sugeriu examinar o currículo como um todo. “Algum conteúdo principal precisa ser eliminado. Continuamos adicionando, em vez de analisar ou podar”, disse ele.
O moderador Justin Reich, diretor do Laboratório de Sistemas de Ensino e professor associado do Programa/Escrita de Estudos Comparativos de Mídia, observou que, embora os adolescentes saibam que a IA é ruim, isso não necessariamente impede seu uso. No entanto, ao convidá-los para a discussão sobre como a IA é implementada e ao incorporar um intercâmbio mais reflexivo com os instrutores, os alunos poderão estar mais preparados para escolher como utilizam estas ferramentas e porquê.
Independentemente disso, as ferramentas de IA e a sua implementação não devem ser tratadas como uma política única para todos. Pat Pataranutaporn, professor de desenvolvimento de carreira de artes e ciências de mídia da Asahi Broadcasting Company e chefe do grupo de pesquisa de psicologia ciborgue no MIT Media Lab, disse: “A IA não é apenas uma coisa. Ela pode e deve ser projetada de maneira diferente para promover coisas como criatividade e pensamento crítico. O que medimos, e como, não deveria ser uma questão de obter a resposta certa. Deveríamos pensar sobre isso realmente significaria para um aluno aprender hoje em dia.”
Imitar o raciocínio humano é tão bom quanto o actual?
Com uma apresentação de slides que incluía grandes mestres do xadrez e referências de filmes, o discurso principal de Kleinberg, intitulado “Os modelos de IA do mundo e os nossos”, avaliou casos em que os sistemas de IA inadvertidamente nos levaram ao fracasso devido a uma incompatibilidade entre o modelo de mundo do sistema e o nosso.
Para ilustrar este ponto, Kleinberg usou o xadrez, onde os motores de xadrez modernos podem competir a níveis sobre-humanos, mas quando emparelhados com parceiros humanos, as suas estratégias não são compreensíveis ou inferíveis para o seu homólogo humano. Essas transferências humanas levariam então à confusão. Kleinberg usou o exemplo de “A Sociedade do Anel”, onde Gandalf, um mago poderoso, confia uma missão altamente perigosa e importante a um grupo desorganizado de aventureiros. Para quem conhece a história, o grupo fica inesperadamente sem a orientação de Gandalf, o que os leva a um período temporário de turbulência muito séria.
Quando o motor de xadrez dá uma volta ao seu parceiro humano, o humano luta para captar o padrão de movimento preditivo que o motor tem seguido até este ponto. “O perigo das equipes de algoritmos humanos é que, quando o humano assume o controle, o algoritmo sabe o que quer fazer a seguir, mas o humano não”, explicou Kleinberg.
Estas analogias mostram as diferenças nas formas como a IA compreende um mundo — através de simulações preditivas, reconhecimento de padrões e restrições — para imitar o raciocínio humano versus o conhecimento inato e incorporado que vem com a experiência humana, e se estes sistemas compreendem verdadeiramente os mundos em que estão a operar. Mas permanece a questão: se o jogo ainda resultar em xeque-mate, isso importa?