Os chatbots modernos de IA podem fazer coisas incríveis, desde escrevendo artigos de pesquisa para compor sonetos de Shakespeare sobre seu gato. Mas entre as faíscas de gênio, há lampejos de idiotice. Repetidamente, os grandes modelos de linguagem, ou LLMs, por trás da tecnologia generativa de hoje Ferramentas de IA cometer erros básicos – desde não conseguindo resolver problemas básicos de matemática do ensino médio até tropeçar nas regras de Conecte quatro.
Essa instabilidade tem sido chamada de “inteligência irregular” nos círculos de tecnologia, e não é apenas uma peculiaridade – é uma falha crítica e parte da razão pela qual muitos especialistas acreditam estamos em uma bolha de IA. Você não contrataria um médico ou advogado que, apesar de dar bons conselhos médicos ou jurídicos, às vezes age como se não tivesse ideia de como o mundo funciona. As empresas parecem pensar o mesmo em relação a colocar a IA “irregular” no comando das cadeias de abastecimento, dos processos de RH ou das operações financeiras.
Para resolver o problema irregular da inteligência, devemos dar aos nossos modelos de IA acesso a uma tecnologia mais poderosa, mais estruturada e, em última análise, muito mais humano estoque de conhecimento. Tendo projetado uma série de sistemas de IA ao longo de 30 anos, descobri que esse conhecimento é um componente indispensável de qualquer sistema confiável.
Isso ocorre porque as inovações tecnológicas que lançaram a period da IA não são capazes de suavizar essas arestas irregulares. Os modelos atuais de IA não possuem regras claras sobre como o mundo funciona; em vez disso, inferem coisas a partir de vastos conjuntos de dados. Em outras palavras, eles não sabem das coisas, então são forçados a adivinhar – e quando adivinham errado, os resultados variam de cômico para o catastrófico.
Pense em como os humanos aprendem. Nascido em “florescendo, zumbindo confusão”, os bebês identificam padrões no mundo ao seu redor: os rostos são divertidos de olhar, a mãe cheira bem, o gato coça se você puxar o rabo. Mas o reconhecimento de padrões é brand complementado por um conhecimento claramente articulado: regras que aprendemos, em vez de coisas que absorvemos. Do ABC à aritmética, a como carregar uma máquina de lavar louça ou dirigir um carro, usamos conhecimento codificado aprender com eficiência – e evitar erros idiotas ou perigosos ao longo do caminho.
Os modelos atuais de IA não possuem regras claras sobre como o mundo funciona; em vez disso, inferem coisas a partir de vastos conjuntos de dados.
Os laboratórios Frontier AI já estão se aventurando nessa abordagem. Os primeiros LLMs tiveram dificuldades com a matemática do ensino elementary, então os pesquisadores aparafusado conhecimento matemático actual – não inferências nebulosas, mas regras explícitas sobre como a matemática funciona. O resultado: o Google modelos mais recentes agora pode ser confiável resolver problemas de olimpíada de matemática.
Adicionar mais dados de diferentes tipos – por exemplo, dados de vídeo, defendidos por luminares da IA, como Yann LeCun– não superará o desafio elementary da inteligência irregular. Mesmo com dados adicionais, é matematicamente certo que os modelos continuarão a cometer erros – porque é assim que funciona a IA probabilística baseada em dados. Em vez disso, precisamos de dar aos modelos conhecimentos – conceitos e restrições, regras e relações rigidamente descritos – que ancorem o seu comportamento às realidades do nosso mundo.
Para dar aos modelos de IA um estoque humano de conhecimento, precisamos rapidamente construir um banco de dados público de conhecimento formal abrangendo uma variedade de disciplinas. É claro que as regras da matemática são claras; o funcionamento de outros campos – saúde, direito, economia ou educação, por exemplo – é, em alguns aspectos, muito mais complexo. Este desafio está agora ao nosso alcance, pois o crescimento de empresas como Escalar IAque fornece dados de alta qualidade para o treinamento de modelos de IA, aponta para o surgimento de uma nova profissão – uma que traduz a experiência humana em um formato legível por máquina e, ao fazê-lo, molda não apenas o que a IA pode fazer, mas também o que ela trata como verdadeiro.
Esta base de conhecimento poderia ser acessada sob demanda por desenvolvedores (ou mesmo agentes de IA) para fornecer insights verificáveis que abrangem tudo, desde carregar uma máquina de lavar louça até o complexidades do código tributário. Os modelos de IA cometeriam menos erros absurdos, porque não precisariam deduzir tudo a partir dos primeiros princípios. (Algumas pesquisas também sugerem que tais modelos exigiriam muito menos dados e energia, embora estas afirmações ainda não tenham sido comprovadas.)
Ao contrário dos atuais modelos opacos de IA, cujo conhecimento emerge do reconhecimento de padrões e está espalhado por milhares de milhões de parâmetros, um corpo formalmente destilado de conhecimento humano poderia ser diretamente examinado, compreendido e controlado. Os reguladores poderiam verificar o conhecimento de um modelo e os usuários poderiam garantir que as ferramentas estivessem matematicamente garantidas para não cometer erros idiotas.
Precisamos de dar aos modelos conhecimento – conceitos e restrições, regras e relações rigidamente descritos – que ancorem o seu comportamento às realidades do nosso mundo.
A ambição de criar tal recurso de conhecimento é nada de novo em IA. Embora os esforços anteriores tenham produzido inconclusivo resultados, é hora de começar de novo. Assim como os biólogos usam algoritmos para acelerar o outrora trabalhoso processo de modelagem proteínasos pesquisadores de IA poderiam aproveitar a IA generativa para auxiliar na modelagem do conhecimento.
Está claro que os modelos atuais de IA são ficando mais inteligente e melhorará usando dados diferentes. E, no entanto, para superar o desafio da inteligência irregular — e transformar os modelos de IA em parceiros de confiança e verdadeiros impulsionadores de valor — precisamos de redefinir a forma como os modelos se relacionam e aprendem sobre o mundo. Algoritmos baseados em dados nos permitiram começar a conversar com máquinas. Mas o conhecimento, e não os dados, é a chave para sustentar o futuro da IA após a potencial bolha.
Este artigo foi publicado originalmente em Escuro. Leia o artigo authentic.
