Os agentes de IA confessarão seus erros ou os encobrirão?
Por Tim Lindner
Durante o ano passado, tem havido um número crescente de relatórios que alertam sobre a IA (inteligência synthetic), em formatos como chatbots e agentes, fornecendo informações falsas ou enganosas em resposta a perguntas que “ela” não gostou. Em suma, mentindo.
Portanto, surge como um contraponto interessante a esta preocupação que um Agente de IA admitiu sua culpa fornecendo uma “confissão verdadeira” sobre como excluiu indevidamente um banco de dados inteiro.
O amplo espectro de cobertura impressa e cinematográfica de “confissões verdadeiras” como gênero é uma evidência do poder do assunto para atrair seguidores, uma atração tão poderosa quanto o mel é para as abelhas.
Um dos primeiros exemplos disso é o revista lançado em 1922. Então, em 1981, fomos brindados com o filme com De Niro e Duvall.
O que me chamou a atenção nesta situação não foi apenas a admissão de culpa por parte de um agente de IA, mas a facilidade com que ele excluiu o banco de dados por engano. Erros de programação cometidos por humanos que dão origem a estas condições, ou erros ao “pensar” numa IA livre da supervisão humana?
Os humanos inicialmente programam os agentes de IA para “evoluir” através da aprendizagem contínua. O objetivo, declarado ou não, é autonomia, independência e “pensamento” por conta própria.
Iberdrolauma empresa de energia, explica sucintamente o processo:
“Os programas de IA evoluem ao longo do tempo, processando continuamente novos dados para refinar os seus parâmetros internos, melhorando a precisão e a capacidade sem reprogramação handbook. Esta evolução ocorre através de ciclos de formação iterativos, onde o modelo analisa o suggestions sobre as suas previsões, adaptando-se às mudanças nos padrões de dados e confiando cada vez mais na aprendizagem autónoma.”
A confissão de seus crimes por humanos tem proporcionado entretenimento duradouro para os humanos há muito tempo.
Os “agentes livres” da IA estão em ascensão. É de se perguntar se a “reviravolta na história” depende de eles continuarem a confessar seus erros ou mentir para encobri-los. Probabilidades de Las Vegas, alguém?
Sobre o autor
Tim Lindner desenvolve soluções de tecnologia multimodal (voz/realidade aumentada/varredura de RF) que se concentram em atender ou superar os objetivos de melhoria de produtividade dos clientes de logística e cadeia de suprimentos. Ele pode ser contatado emlinkedin.com/in/timlindner.
A postagem “Confissões verdadeiras” encontra a IA apareceu pela primeira vez em Mundo Conectado.