Num fascinante artigo de opinião, David Bell, professor de história em Princeton, argumenta que “IA está abandonando valores iluministas.” Como alguém que ensinou redação em uma universidade de prestígio semelhante e como alguém que escreveu sobre tecnologia nos últimos 35 anos ou mais, tive uma resposta profunda.
O argumento de Bell não é o de um cético em relação à IA. Para que seu argumento funcione, a IA precisa ser muito boa em raciocínio e redação. É um argumento sobre a natureza do próprio pensamento. Ler é pensar. Escrever é pensar. Isso é quase clichê – eles aparecem até nas avaliações dos alunos sobre usando IA em uma aula de redação universitária. Não é uma surpresa ver estas ideias no século XVIII, e é apenas um pouco mais surpreendente ver até onde os pensadores do Iluminismo as levaram. Bell escreve:
O grande filósofo político Barão de Montesquieu escreveu: “Nunca se deve esgotar tanto um assunto que não reste nada para os leitores fazerem. A questão não é fazê-los ler, mas fazê-los pensar.” Voltaire, o mais famoso dos “filósofos” franceses, afirmou: “Os livros mais úteis são aqueles que os leitores escrevem metade deles mesmos”.
E no remaining do século 20, o grande estudioso de Dante, John Freccero, dizia em suas aulas “O texto lê você”: Como você lê A Divina Comédia diz quem você é. Você inevitavelmente encontra seu reflexo no ato de ler.
O uso da IA é uma ajuda ao pensamento, uma muleta ou um substituto? Se for uma muleta ou um substituto, então temos que voltar ao “Penso, brand existo” de Descartes e lê-lo de trás para frente: O que sou eu se não penso? O que sou eu se transferi meu pensamento para algum outro dispositivo? Bell ressalta que os livros guiam o leitor através do processo de pensamento, enquanto a IA espera que guiemos o processo e muitas vezes recorre à lisonja. A bajulação não se limita a algumas versões recentes do GPT; “Essa é uma ótima ideia” tem sido um elemento básico nas respostas de bate-papo da IA desde seus primeiros dias. Uma mesmice monótona acompanha a lisonja – o paradoxo da IA é que, apesar de toda a conversa sobre inteligência geral, ela realmente não pensa melhor do que nós. Pode aceder a uma riqueza de informações, mas, em última análise, dá-nos (na melhor das hipóteses) uma média nada excepcional do que foi pensado no passado. Os livros conduzem você por tipos de pensamento radicalmente diferentes. Platão não é Tomás de Aquino, não é Maquiavel, não é Voltaire (e para grandes insights sobre a transição do mundo fraturado do pensamento medieval para o mundo fraturado do pensamento renascentista, veja o livro de Ada Palmer). Inventando o Renascimento).
Fomos levados a pensar que a educação é uma preparação para ingressar no mercado de trabalho, seja como um trabalhador que pode planejar como gastar seu salário (ler, escrever, fazer aritmética) ou como um potencial advogado ou engenheiro (bacharelado, mestrado, doutorado). Fomos levados a pensar nas escolas como fábricas – basta olhar para qualquer escola construída na década de 1950 ou antes e compará-la com uma instalação fabril do início do século XX. Acolher as crianças, processá-las, expulsá-las. Avalie-os com exames que não medem muito mais do que a capacidade de fazer exames – não muito diferente dos benchmarks que as empresas de IA citam constantemente. O resultado é que os estudantes que conseguem ler Voltaire ou Montesquieu como um diálogo com os seus próprios pensamentos, que poderiam potencialmente fazer um avanço na ciência ou na tecnologia, são raridades. Eles não são os estudantes que nossas instituições foram projetadas para produzir; eles têm que lutar contra o sistema e frequentemente falham. Como me disse um administrador de escola primária: “Eles são deficientes, tão deficientes quanto os alunos que chegam aqui com dificuldades de aprendizagem. Mas pouco podemos fazer para ajudá-los”.
Portanto, a questão difícil por detrás do artigo de Bell é: como ensinamos os alunos a pensar num mundo que estará inevitavelmente cheio de IA, independentemente de essa IA se parecer ou não com os nossos atuais LLMs? No remaining das contas, a educação não consiste em coletar fatos, duplicar as respostas no remaining do livro ou obter notas para passar. É sobre aprender a pensar. O sistema educacional atrapalha a educação, levando a pensamentos de curto prazo. Se sou medido por uma nota, devo fazer tudo o que puder para otimizar essa métrica. Todas as métricas serão testadas. Mesmo que não sejam manipulados, as métricas contornam os problemas reais.
Num mundo cheio de IA, recuar para estereótipos como “IA é prejudicial” e “IA alucina” é equivocado e é um caminho seguro para o fracasso. O que é prejudicial não é a IA, mas o conjunto de atitudes que fazem da IA apenas mais uma ferramenta para manipular o sistema. Precisamos de uma forma de pensar com a IA, de argumentar com ela, de completar o “livro” da IA de uma forma que vá além da maximização de uma pontuação. Sob esta luz, grande parte do discurso em torno da IA tem sido equivocado. Ainda ouço pessoas dizerem que a IA evitará que você exact conhecer os fatos, que você não terá que aprender os cantos obscuros e difíceis das linguagens de programação – mas por mais que eu pessoalmente queira seguir o caminho mais fácil, os fatos são o esqueleto no qual o pensamento se baseia. Os padrões surgem de fatos, sejam esses padrões movimentos históricos, teorias científicas ou designs de software program. E os erros são facilmente descobertos quando você se envolve ativamente com os resultados da IA.
A IA pode ajudar a reunir factos, mas em algum momento esses factos precisam de ser internalizados. Posso citar uma dúzia (ou dois ou três) de escritores e compositores importantes cujos melhores trabalhos surgiram por volta de 1800. O que é necessário para passar desses fatos a uma concepção do movimento romântico? Uma IA poderia certamente reunir e agrupar esses factos, mas seria então capaz de pensar sobre o que esse movimento significou (e continua a significar) para a cultura europeia? Quais são os maiores padrões revelados pelos fatos? E o que significaria se esses factos e padrões residissem apenas num modelo de IA, sem compreensão humana? Você precisa conhecer o formato da história, especialmente se quiser pensar de forma produtiva sobre ela. Você precisa conhecer os cantos obscuros de suas linguagens de programação se quiser depurar uma bagunça de código gerado por IA. Voltando ao argumento de Bell, a capacidade de encontrar padrões é o que permite completar a escrita de Voltaire. A IA pode ser uma ajuda tremenda na descoberta desses padrões, mas, como pensadores humanos, temos de tornar esses padrões nossos.
É disso que se trata o aprendizado. Não se trata apenas de coletar fatos, embora os fatos sejam importantes. Aprender é compreender e encontrar relacionamentos e compreender como esses relacionamentos mudam e evoluem. Trata-se de tecer a narrativa que conecta nossos mundos intelectuais. Isso é iluminação. A IA pode ser uma ferramenta valiosa nesse processo, desde que você não confunda os meios com os fins. Pode ajudá-lo a ter novas ideias e novas maneiras de pensar. Nada diz que você não possa ter o tipo de diálogo psychological sobre o qual Bell escreve em um ensaio gerado por IA. ChatGPT pode não ser Voltaire, mas não é muito. Mas se não tivermos o tipo de diálogo que nos permita internalizar as relações escondidas por trás dos factos, a IA é um obstáculo. Todos nós temos tendência a ser preguiçosos — intelectualmente ou de outra forma. Qual é o ponto em que o pensamento para? Qual é o ponto em que o conhecimento deixa de se tornar seu? Ou, voltando aos pensadores do Iluminismo, quando você para de escrever sua parte no livro?
Essa não é uma escolha que a IA faz para você. A escolha é sua.