Primeiro, eu tento (a pergunta) frio e recebo uma resposta específica, sem uso e errado. Depois, tento ajudá -lo com a fonte principal e recebo uma resposta errada diferente com uma lista de fontes, que são realmente o censo dos EUA, e o primeiro hyperlink vai para o PDF correto … mas o número ainda está errado. Hum. Vamos tentar dar o PDF actual? Não. Explicando exatamente onde no PDF parecer? Não. Pedindo para navegar na net? Não, não, não…. Não preciso de uma resposta que talvez seja mais provável que esteja certa, especialmente se eu não puder dizer. Eu preciso de uma resposta que é certo.
Apenas errado o suficiente
Mas e as perguntas que não exigem uma única resposta certa? Para o objetivo específico que Evans estava tentando usar o Genai, o sistema sempre estará errado o suficiente para nunca dar a resposta certa. Talvez, apenas talvez, modelos melhores corrigam isso com o tempo e se tornem consistentemente corretos em sua saída. Talvez.
A questão mais interessante que Evans coloca é se existem “lugares onde a taxa de erro (generativa da IA) é um recurso, não um bug”. É difícil pensar em como estar errado pode ser um trunfo, mas como uma indústria (e como seres humanos), tendemos a ser muito ruins em prever o futuro. Hoje estamos tentando adaptar a abordagem não determinística de Genai para sistemas determinísticos, e estamos obtendo máquinas alucinantes em resposta.
Isso não parece ser mais um caso de superesturação do Vale do Silício em desejos de pensamento sobre tecnologia (blockchain, por exemplo). Há algo actual na IA generativa. Mas, para chegar lá, podemos precisar descobrir novas maneiras de programar, aceitando a probabilidade e não a certeza como um resultado desejável.