Ao longo dos anos, muitos de nós nos acostumamos a deixar os computadores pensarem por nós. “É o que o computador diz” é um refrão em muitas interações ruins de atendimento ao cliente. “É o que os dados dizem” é uma variação — “os dados” não dizem muito se você não sabe como eles foram coletados e como a análise de dados foi realizada. “É o que o GPS diz” — bem, o GPS geralmente está certo, mas já vi sistemas de GPS me dizerem para ir na direção errada em uma rua de mão única. E ouvi (de um amigo que conserta barcos) sobre proprietários de barcos que encalharam porque period isso que o GPS mandava.
De muitas maneiras, passamos a pensar em computadores e sistemas de computação como oráculos. Essa é uma tentação ainda maior agora que temos IA generativa: faça uma pergunta e você obterá uma resposta. Talvez seja uma boa resposta. Talvez seja uma alucinação. Quem sabe? Quer você obtenha fatos ou alucinações, a resposta da IA certamente será confiante e autoritária. Ela é muito boa nisso.
Está na hora de pararmos de ouvir oráculos — humanos ou não — e começarmos a pensar por nós mesmos. Não sou um cético em relação à IA; a IA generativa é ótima para ajudar a gerar ideias, resumir, encontrar novas informações e muito mais. Estou preocupado com o que acontece quando os humanos relegam o pensamento a outra coisa, seja ou não uma máquina. Se você usa IA generativa para ajudá-lo a pensar, tanto melhor; mas se você está apenas repetindo o que a IA lhe disse, provavelmente está perdendo sua capacidade de pensar de forma independente. Assim como seus músculos, seu cérebro se degrada quando não é usado. Ouvimos dizer que “as pessoas não perderão seus empregos para a IA, mas as pessoas que não usam IA perderão seus empregos para as pessoas que usam”. Justo — mas há um ponto mais profundo. Pessoas que apenas repetem o que a IA generativa lhes diz, sem entender a resposta, sem pensar na resposta e torná-la sua, não estão fazendo nada que uma IA não possa fazer. Elas são substituíveis. Eles perderão seus empregos para alguém que pode trazer insights que vão além do que uma IA pode fazer.
É fácil sucumbir ao pensamento “IA é mais inteligente do que eu”, “isso é AGI”. Talvez seja, mas ainda acho que a IA é melhor em nos mostrar o que a inteligência não é. Inteligência não é a capacidade de vencer jogos de Go, mesmo se você derrotar campeões. (Na verdade, os humanos descobriram vulnerabilidades no AlphaGo que permite que iniciantes o derrotem.) Não é a capacidade de criar novas obras de arte – sempre precisamos de novas artes, mas não precisamos de mais Van Goghs, Mondrians ou mesmo imagens geradas por computador. Os Rutkowski. (O que a IA significa para o modelo de negócios de Rutkowski é uma questão authorized interessante, mas Van Gogh certamente não está sentindo nenhuma pressão.) Foi preciso que Rutkowski decidisse o que significava criar sua arte, assim como Van Gogh e Mondrian. A capacidade da IA de imitá-la é tecnicamente interessante, mas realmente não diz nada sobre criatividade. A capacidade da IA de criar novos tipos de arte sob a direção de um artista humano é uma direção interessante a ser explorada, mas sejamos claros: isso é iniciativa e criatividade humanas.
Os humanos são muito melhores do que a IA em entender contextos muito grandes — contextos que superam um milhão de tokens, contextos que incluem informações que não temos como descrever digitalmente. Os humanos são melhores do que a IA em criar novas direções, sintetizar novos tipos de informação e construir algo novo. Mais do que qualquer outra coisa, o ditado de Ezra Pound “Make it New” é o tema da cultura dos séculos XX e XXI. Uma coisa é pedir ideias de startups à IA, mas não acho que a IA teria criado a Internet ou, nesse caso, as mídias sociais (que realmente começaram com os grupos de notícias da USENET). A IA teria dificuldade em criar algo novo porque a IA não pode querer nada — novo ou velho. Para usar as supostas palavras de Henry Ford, seria ótimo para projetar cavalos mais rápidos, se solicitado. Talvez um bioengenheiro pudesse pedir a uma IA para decodificar o DNA do cavalo e criar algumas melhorias. Mas não acho que uma IA poderia projetar um automóvel sem ter visto um primeiro — ou sem que um humano dissesse “Coloque uma máquina a vapor em um triciclo.”
Há outra parte importante para esse problema. Na DEFCON 2024, Moxie Marlinspike argumentou que a “mágica” do desenvolvimento de software program foi perdida porque novos desenvolvedores são enfiados em “camadas de abstração de caixa preta”. É difícil ser inovador quando tudo o que você conhece é React. Ou Spring. Ou outra estrutura enorme e superconstruída. A criatividade vem de baixo para cima, começando com o básico: a máquina e a rede subjacentes. Ninguém mais aprende assembler, e talvez isso seja uma coisa boa — mas isso limita a criatividade? Não porque haja uma sequência extremamente inteligente de linguagem meeting que desbloqueará um novo conjunto de recursos, mas porque você não desbloqueará um novo conjunto de recursos quando estiver preso a um conjunto de abstrações. Da mesma forma, vi argumentos de que ninguém precisa aprender algoritmos. Afinal, quem precisará implementar type()
? O problema é que type()
é um ótimo exercício de resolução de problemas, principalmente se você se forçar a ir além do simples bubble type
para quicksort
, merge type
e além. O ponto não é aprender a classificar; é aprender a resolver problemas. Vista desse ângulo, a IA generativa é apenas outra camada de abstração, outra camada que gera distância entre o programador, as máquinas que ele programa e os problemas que ele resolve. Abstrações são valiosas, mas o que é mais valioso é a capacidade de resolver problemas que não são cobertos pelo conjunto atual de abstrações.
O que me traz de volta ao título. A IA é boa — muito boa — no que faz. E faz muitas coisas bem. Mas nós, humanos, não podemos esquecer que é nosso papel pensar. É nosso papel querer, sintetizar, criar novas ideias. Cabe a nós aprender, nos tornarmos fluentes nas tecnologias com as quais estamos trabalhando — e não podemos delegar essa fluência à IA generativa se quisermos gerar novas ideias. Talvez a IA possa nos ajudar a transformar essas novas ideias em realidades — mas não se pegarmos atalhos.
Precisamos pensar melhor. Se a IA nos empurrar a fazer isso, estaremos em boa forma.