Até que ponto um sistema synthetic pode ser racional?
Um novo curso do MIT, 6.S044/24.S00 (IA e Racionalidade), não procura responder a esta questão. Em vez disso, desafia os alunos a explorar este e outros problemas filosóficos através das lentes da pesquisa em IA. Para a próxima geração de académicos, os conceitos de racionalidade e agência poderão revelar-se essenciais na tomada de decisões em IA, especialmente quando influenciados pela forma como os humanos compreendem os seus próprios limites cognitivos e as suas visões limitadas e subjetivas do que é ou não racional.
Esta investigação está enraizada numa relação profunda entre a ciência da computação e a filosofia, que há muito colaboram na formalização do que significa formar crenças racionais, aprender com a experiência e tomar decisões racionais na busca dos próprios objetivos.
“Você poderia imaginar que a ciência da computação e a filosofia estão muito distantes, mas sempre se cruzaram. As partes técnicas da filosofia realmente se sobrepõem à IA, especialmente à IA inicial”, diz o instrutor do curso Leslie Kaelbling, professor Panasonic de Ciência da Computação e Engenharia no MIT, lembrando Alan Turing, que period cientista da computação e filósofo. A própria Kaelbling é formada em filosofia pela Universidade de Stanford, observando que a ciência da computação não estava disponível como especialização na época.
Brian Hedden, professor do Departamento de Lingüística e Filosofia, que ocupa uma posição compartilhada no MIT Schwarzman Faculty of Computing com o Departamento de Engenharia Elétrica e Ciência da Computação (EECS), que ministra a aula com Kaelbling, observa que as duas disciplinas estão mais alinhadas do que as pessoas podem imaginar, acrescentando que “as diferenças estão na ênfase e na perspectiva”.
Ferramentas para reflexão teórica adicionalg
Oferecido pela primeira vez no outono de 2025, Kaelbling e Hedden criaram IA e Racionalidade como parte do Terreno Comum para Educação em Computação, uma iniciativa transversal do MIT Schwarzman Faculty of Computing que reúne vários departamentos para desenvolver e ministrar novos cursos e lançar novos programas que combinam computação com outras disciplinas.
Com mais de duas dezenas de alunos inscritos, IA e Racionalidade é uma das duas aulas de Widespread Floor com base em filosofia, sendo a outra 6.C40/24.C40 (Ética da Computação).
Enquanto Ética da Computação explora preocupações sobre os impactos sociais do rápido avanço da tecnologia, IA e Racionalidade examina a definição controversa de racionalidade considerando vários componentes: a natureza da agência racional, o conceito de um agente totalmente autónomo e inteligente, e a atribuição de crenças e desejos a estes sistemas.
Como a IA é extremamente ampla na sua implementação e cada caso de uso levanta questões diferentes, Kaelbling e Hedden debateram tópicos que poderiam fornecer discussões frutíferas e envolvimento entre as duas perspectivas da ciência da computação e da filosofia.
“É importante quando trabalho com alunos que estudam aprendizado de máquina ou robótica que eles recuem um pouco e examinem as suposições que estão fazendo”, diz Kaelbling. “Pensar nas coisas a partir de uma perspectiva filosófica ajuda as pessoas a recuar e a compreender melhor como situar o seu trabalho no contexto actual.”
Ambos os instrutores enfatizam que este não é um curso que forneça respostas concretas a questões sobre o que significa projetar um agente racional.
Hedden diz: “Vejo o curso como uma construção de seus alicerces. Não estamos dando a eles um corpo de doutrina para aprender, memorizar e depois aplicar. Estamos equipando-os com ferramentas para pensar sobre as coisas de maneira crítica à medida que iniciam suas carreiras escolhidas, sejam elas na pesquisa, na indústria ou no governo”.
O rápido progresso da IA também apresenta um novo conjunto de desafios no meio acadêmico. Prever o que os alunos precisarão saber daqui a cinco anos é algo que Kaelbling vê como uma tarefa impossível. “O que precisamos de fazer é dar-lhes as ferramentas a um nível mais elevado – os hábitos mentais, as formas de pensar – que os ajudarão a abordar as coisas que realmente não podemos prever neste momento”, diz ela.
Combinando disciplinas e questionando suposições
Até agora, a turma atraiu alunos de uma ampla variedade de disciplinas – desde aqueles firmemente fundamentados na computação até outros interessados em explorar como a IA se cruza com seus próprios campos de estudo.
Ao longo das leituras e discussões do semestre, os alunos lutaram com diferentes definições de racionalidade e como resistiram às suposições em suas áreas.
Sobre o que a surpreendeu no curso, Amanda Paredes Rioboo, estudante do último ano do EECS, diz: “Fomos ensinados que matemática e lógica são esse padrão de ouro ou verdade. Esta aula nos mostrou uma variedade de exemplos de que os humanos agem de forma inconsistente com essas estruturas matemáticas e lógicas. Abrimos toda essa lata de vermes para saber se são os humanos que são irracionais? Será que os sistemas de aprendizado de máquina que projetamos são irracionais? Será a própria matemática e a lógica?”
Junior Okoroafor, aluno de doutorado no Departamento de Ciências do Cérebro e Cognitivas, gostou dos desafios da turma e das maneiras pelas quais a definição de um agente racional pode mudar dependendo da disciplina. “Representar o que cada campo entende por racionalidade numa estrutura formal torna claro exatamente quais pressupostos devem ser partilhados e quais são diferentes entre os campos.”
A estrutura colaborativa e de co-ensino do curso, como acontece com todos os empreendimentos do Widespread Floor, deu aos alunos e aos instrutores oportunidades de ouvir diferentes perspectivas em tempo actual.
Para Paredes Rioboo, este é o terceiro curso Widespread Floor. Ela diz: “Gosto muito do aspecto interdisciplinar. Eles sempre pareceram uma boa mistura de teoria e aplicação, pelo fato de que precisam atravessar áreas.”
De acordo com Okoroafor, Kaelbling e Hedden demonstraram uma sinergia óbvia entre as áreas, dizendo que period como se estivessem engajados e aprendendo junto com a turma. Como a ciência da computação e a filosofia podem ser usadas para informar uma à outra permitiu-lhe compreender seus pontos em comum e perspectivas inestimáveis sobre questões que se cruzam.
Ele acrescenta: “a filosofia também tem um jeito de surpreender”.