No ano passado, observei equipes implantarem sistemas, ferramentas e agentes de IA cada vez mais capazes e depois lutarem para confiar, adotá-los ou escalá-los. Eu diria que grande parte do problema atual de adoção da IA começa com a forma como estamos enquadrando a mudança.
“Human-in-the-loop” (muitas vezes abreviado para HITL) tornou-se um dos chavões mais exagerados da atualidade. Empresas e analistas repetem isso com seriedade aos reguladores, auditores e equipes de risco como um sinal de conformidade e garantia, abreviação de: “não se preocupe, este sistema não é totalmente autônomo, existe um responsável que pode intervir e monitorar.” O HITL também está se tornando cada vez mais uma mensagem de segurança para clientes e funcionários: “Se você preferir usar ferramentas de IA, não se preocupe, “humanos” como você permanecerão informados!”
Esta não é a primeira vez que esta frase aparece. ‘Human within the Loop’ vem de disciplinas de engenharia (aviação, sistemas nucleares, controle industrial), onde os sistemas eram cada vez mais automatizados. Em 1998, o Glossário de Modelagem e Simulação do Departamento de Defesa dos EUA usou “human-in-the-loop” como uma frase para descrever “um modelo interativo que requer participação humana.”
A diferença entre esse uso e o atual é sutil, mas importante. Em 1998, o DoD descrevia sistemas de aprendizado de máquina determinísticos e de escopo restrito e automações projetadas para executar processos específicos sob condições controladas. Nos sistemas de controle clássicos e na automação inicial, o “loop” period uma iteração de: sentir, decidir, agir, observar e depois ajustar. As máquinas coletariam os sinais (radar, medidores, telemetria) e as pessoas entenderiam os dados. Nos sistemas da década de 1980, as pessoas não apenas intervinham, mas também definiam os objetivos, os limites e os modos de falha. No entanto, o uso atual mantém o mesmo rótulo, mas descreve uma estrutura com menos autonomia.
Com o surgimento dos LLMs e da IA de agente, o ciclo tornou-se algo mais parecido com: o modelo gera, a pessoa revisa em busca de erros e o agente prossegue.
O problema do enquadramento
Depois que você começa a pensar na frase, o enquadramento está claramente errado. Por que estamos chamando isso de “humano no circuito” em primeiro lugar? A própria estrutura da frase mostra modelos de IA fazendo o trabalho com pessoas convidadas em algum lugar ao longo do caminho.
Este é um problema elementary de design: uma linguagem que enquadra a IA como protagonista e relega as pessoas a um papel de apoio, como se fossem acessórios do sistema, em vez de catalisadores do próprio sistema. A estrutura da frase implica que a IA é o ator principal que executa a operação, com o “humano” posicionado como um mecanismo de controlo ou garantia de qualidade no ultimate de uma linha de montagem automatizada.
Em produto e engenharia, responsabilidade sem autoridade é conhecida como modo de falha. E, no entanto, é exactamente isso que a estrutura HITL implica: pessoas aprovando resultados que não conceberam. Neste quadro, os modelos são gerados, os sistemas prosseguem e os “humanos” são trazidos para inspecionar, aprovar e, em última análise, assumir a responsabilidade se algo correr mal. Em qualquer outro contexto, reconheceríamos isto imediatamente como um sistema falho – um sistema que separa a tomada de decisões da responsabilização.
E depois há a própria palavra “humano”: fria, estéril, biológica e impessoal. Não admira que as pessoas tendam a desconfiar destes modelos – esta frase soa como algo que um modelo geraria.
Se HITL é a história que estamos contando ao mercado, então os problemas atuais de adoção de IA não deveriam nos surpreender. Se quisermos resolver o problema da adoção, primeiro temos que corrigir o nosso enquadramento.
A questão é esta: sistemas bem projetados não evitam a automação, mas fazer tornar a delegação explícita. As pessoas definem a direção, definem intenções e restrições e decidem onde o julgamento é necessário. A automação cuida do resto. Quando essa ordem é clara, a IA é uma extensão poderosa da capacidade humana. Quando isso não acontece — e quando os sistemas avançam primeiro no trabalho e as pessoas são atraídas mais tarde para analisar e absorver riscos — a confiança inevitavelmente se desgasta. Não porque a automação seja muito capaz, mas porque autoridade e responsabilidade estão desalinhadas.
O estranho vale do trabalho
Numa cultura que se orgulha da agência particular person, da criatividade e da inovação, adoptámos uma forma estranhamente passiva de descrever como as pessoas devem interagir com a IA.
A narrativa em torno das ferramentas “habilitadas para IA” é quase sempre a mesma: menos pontos de contato humanos e automação = mais eficiência e velocidade. A promessa implícita é que o progresso significa menos envolvimento humano, porque só é necessária uma pessoa estranha “no circuito” para evitar que as coisas saiam completamente dos trilhos.
Penso que este enquadramento alimenta directamente a desconfiança precise nestes modelos, não porque seja sempre assim, mas por causa da história que sugere. Nesta história, as pessoas se preocupam com três coisas:
- E se eu estiver treinando os mesmos sistemas que podem (na pior das hipóteses) eventualmente me substituir ou (na melhor das hipóteses) me relegar a uma nova função que parece menos impactante ou proposital?
- Como seria essa nova função para mim? Será esperado que eu revise, detecte erros rapidamente e aprove resultados que não criei? Meu trabalho mudará da criação para um ciclo monótono de revisão e aprovação?
- Se algo der errado, serei responsabilizado ou responsabilizado?
Juntas, essas ansiedades produzem o que considero o misterioso vale do trabalho: a sensação de que este trabalho se parece com o meu trabalho, as decisões se assemelham ao meu julgamento, tudo parece acquainted e, ainda assim, parece vazio porque nada disso é verdadeiramente meu.
Este enquadramento também subverte os papéis que normalmente desempenhamos; tradicionalmente, as pessoas criar e tecnologia suporta. Nessa inversão de papéis, a IA gera e promove o trabalho, enquanto as pessoas fazem a curadoria. Nessa posição, é fácil sentir-se indiferente a quaisquer resultados, “Não sei, a IA decidiu?”
As pessoas obtêm propósito a partir do esforço e da realização, portanto, posicioná-las como revisores “informados” elimina esse senso de significado e propriedade: uma receita perfeita para o esgotamento. Afinal, a maioria das pessoas só tolera o trabalho administrativo quando este apoia um trabalho significativo ou criativo, tem um prazo determinado e um propósito claro.
É aqui que o termo “humano no circuito” falha; posiciona o julgamento das pessoas como uma etapa do processo, quando o nosso julgamento é a base completa para o sucesso.
Por outro lado, quando invertemos esse enquadramento, de repente são as pessoas que definem metas, escolhem quando inserir a IA no trabalho e moldam os resultados. Ao pensar na implementação e adoção da IA, devemos posicioná-la como o que já é: uma ferramenta poderosa que pode ajudar as pessoas a destilar informações, revelar padrões e reduzir o trabalho administrativo, e não algo que substitui a autoria ou propriedade de uma pessoa.
Linguagem como Arquitetura
Sistemas de IA bem projetados tornam a delegação explícita. As pessoas devem definir a direção, definir restrições e decidir onde é necessário julgamento, enquanto a automação cuida do resto. Neste modelo, a IA expande o que os especialistas podem fazer: revelar padrões, reduzir o trabalho administrativo e acelerar decisões sem minar a autoria ou a responsabilidade.
Quando a IA é reformulada com uma mentalidade que prioriza as pessoas, ela se torna fortalecedora. Eu vejo isso acontecer todos os dias às Base rápida com nossos clientes e nossas equipes internas de produtos. As organizações que obtiveram sucesso com a adoção da IA não estão tentando remover pessoas do processo; eles estão fornecendo aos especialistas do domínio melhores ferramentas para trabalhar com seus dados, adaptar-se em tempo actual e concentrar sua energia onde ela tem maior impacto, especialmente em ambientes moldados pela escassez de mão de obra, mudanças nas cadeias de fornecimento e orçamentos de projetos mais apertados.
A realidade do trabalho é confusa. O contexto é importante, e nosso bom senso, experiência e solução criativa de problemas não são algo agradável, eles são a essência de como o trabalho actual é realizado.
Se quisermos que os sistemas de IA confiem, sejam dimensionados e apoiados pelas pessoas (que é o apenas Como isso funciona bem para todos), precisamos projetá-los em torno de uma regra simples: as pessoas são donas dos resultados e a IA apoia o trabalho. Não o contrário.