Postagem do weblog de Thomas Wolf “O modelo Einstein AI”É uma leitura obrigatória. Ele contrasta seu pensamento sobre o que precisamos da IA com outra leitura obrigatória,“ Dario Amodei’s “Máquinas de graça amorosa. ”1 O argumento de Wolf é que nossos modelos de linguagem mais avançados não estão criando nada de novo; Eles estão apenas combinando idéias antigas, frases antigas, palavras antigas de acordo com modelos probabilísticos. Esse processo não é capaz de fazer novas descobertas significativas; Wolf lista o sistema photo voltaic heliocêntrico de Copernicus, a relatividade de Einstein e o CRISPR de Doudna como exemplos de descobertas que vão muito além da recombinação. Sem dúvida, muitas outras descobertas poderiam ser incluídas: Kepler’s, Newton’s e tudo o que levou à mecânica quântica, começando com a solução para o problema do corpo negro.
O coração do argumento de Wolf reflete a visão do progresso que Thomas Kuhn observa em A estrutura das revoluções científicas. Wolf está descrevendo o que acontece quando o processo científico se liberta da “ciência regular” (termo de Kuhn) em favor de um novo paradigma que é impensável para os cientistas mergulhados no que foi antes. Como a relatividade e a teoria quântica podem começar a fazer sentido para os cientistas fundamentados na mecânica newtoniana, uma estrutura intelectual que poderia explicar quase tudo o que sabíamos sobre o mundo físico, exceto o problema do corpo negro e a precessão de Mercúrio?
Aprenda mais rápido. Cavar mais fundo. Veja mais longe.
O argumento de Wolf é semelhante ao argumento sobre o potencial de criatividade da IA na música e outras artes. Os grandes compositores não estão apenas recombinando o que veio antes; Eles estão completando tradições, fazendo algo novo que incorpora partes do que veio antes de maneiras que nunca poderiam ter sido previstas. O mesmo se aplica aos poetas, romancistas e pintores: é necessário quebrar com o passado, escrever algo que não poderia ter sido escrito antes, para “torná -lo novo”.
Ao mesmo tempo, muita ciência boa é a “ciência regular” de Kuhn. Depois de ter relatividade, você precisa descobrir as implicações. Você tem que fazer os experimentos. E você precisa descobrir onde pode obter os resultados dos artigos A e B, misturá -los e obter o resultado C, que é útil e, à sua maneira, importante. A explosão da criatividade que resultou em mecânica quântica (Bohr, Planck, Schrödinger, Dirac, Heisenberg, Feynman e outros) não period apenas uma dúzia de físicos que fizeram trabalho revolucionário. Exigiu milhares que vieram depois amarrar as pontas soltas, encaixarem as peças ausentes e validar (e estender) as teorias. Nós nos preocuparíamos com Einstein se não tivéssemos as medições de Eddington durante o 1919 Eclipse photo voltaic? Ou a relatividade teria caído no esquecimento, talvez para ser reconstituído uma dúzia ou cem anos depois?
O mesmo vale para as artes: pode haver apenas um Beethoven, Mozart ou Monge, mas há milhares de músicos que criaram músicas que as pessoas ouviram e gostaram, e que foram esquecidas desde então porque não fizeram nada revolucionário. Ouvir música verdadeiramente revolucionária 24-7 seria insuportável. Em algum momento, você quer algo seguro; algo que não é desafiador.
Precisamos de IA que possa fazer a “ciência regular” e a ciência que cria novos paradigmas. Já temos o primeiro, ou pelo menos, estamos perto. Mas como seria esse outro tipo de IA? É aí que fica desafiador – não apenas porque não sabemos como construí -lo, mas porque a IA pode exigir seu próprio novo paradigma. Isso se comportaria de maneira diferente de qualquer coisa que temos agora.
Embora eu tenha sido cético, estou começando a acreditar que, talvez, a IA possa pensar assim. Argumentei que uma característica – talvez a característica mais importante – da inteligência humana que nossa IA atual não pode imitar é a vontade, a vontade, a capacidade de querer fazer algo. Alphago pode jogar, mas não pode querer para jogar, vá. A volição é uma característica do pensamento revolucionário-você deve querer ir além do que já é conhecido, além da simples recombinação, e seguir uma linha de pensamento para suas conseqüências mais abrangentes.
Podemos estar recebendo alguns vislumbres dessa nova IA. Já vimos alguns exemplos estranhos de mau comportamento da IA que vão além da injeção imediata ou conversando com um chatbot para ser travesso. Estudos recentes discutem Scheming e Alinhamento fingido em que os LLMs produzem saídas nocivas, possivelmente por causa de conflitos sutis entre diferentes prompts do sistema. Outro estudo mostrou que modelos de raciocínio como o OpenAi O1-Preview Will Will trair no xadrez para ganhar2; Modelos mais antigos como o GPT-4O não. Trair é apenas um erro no raciocínio da IA ou algo novo? Eu associado volição com comportamento transgressivo; Isso poderia ser um sinal de uma IA que pode querer algo?
Se eu estiver no caminho certo, precisaremos estar cientes dos riscos. Na maioria das vezes, meu pensamento sobre risco alinhou com Andrew Ng, que disse uma vez que se preocupar com robôs assassinos period semelhante a se preocupar com superpopulação em Marte. (Desde então, Ng ficou mais preocupado.) Há danos reais e concretos em que precisamos pensar agora, não riscos hipotéticos extraídos da ficção científica. Mas uma IA que pode gerar novos paradigmas traz seus próprios riscos, especialmente se esse risco surgir de um tipo de vontade nascente.
Isso não significa se afastar dos riscos e rejeitar qualquer coisa percebida como arriscada. Mas também significa entender e controlar o que estamos construindo. Ainda estou menos preocupado com uma IA que pode dizer a um humano como criar um vírus do que com o humano que resolve fazer esse vírus em um laboratório. (Mãe Natureza tem vários bilhões de anos de experiência na construção de vírus assassinos. Por toda a postura política em torno da Covid, de longe a melhor evidência é que é de origem pure.) Precisamos perguntar o que uma IA que trapaceia no xadrez pode fazer se for solicitada a ressuscitar as vendas de tanques da Tesla.
Wolf está certo. Enquanto a IA que é meramente recombinativa certamente será uma ajuda para a ciência, se queremos ciências inovadoras, precisamos ir além da recombinação para modelos que podem criar novos paradigmas, juntamente com o que mais que possa implicar. Como Shakespeare escreveu: “Ó bravo mundo novo que tem essas pessoas”. Esse é o mundo que estamos construindo e o mundo em que vivemos.
Notas de rodapé
- Venturebeat publicou um excelente resumocom conclusões que podem não ser tão diferentes da minha.
- Se você se perguntar como uma IA que toca xadrez poderia perder, lembre-se disso Pesca de estoque E outros modelos específicos de xadrez são muito mais fortes que os melhores modelos de idiomas grandes.