A ascensão do terapeuta de IA

Os terapeutas de IA poderiam nivelar a humanidade em padrões de previsão e, assim, sacrificar o cuidado íntimo e individualizado que se espera dos terapeutas humanos tradicionais. “A lógica do PAI leva a um futuro onde todos poderemos encontrar-nos pacientes num asilo algorítmico administrado por guardas digitais”, escreve Oberhaus. “No asilo algorítmico não há necessidade de grades nas janelas ou de salas acolchoadas brancas porque não há possibilidade de fuga. O asilo já está em toda parte: em suas casas e escritórios, escolas e hospitais, tribunais e quartéis. Onde quer que haja uma conexão com a Web, o asilo está esperando.”

ROUTLEDGE, 2025

Eoin Fullam, pesquisador que estuda a interseção entre tecnologia e saúde psychological, ecoa algumas das mesmas preocupações em Terapia Chatbot: Uma Análise Crítica do Tratamento de Saúde Psychological com IA. Uma cartilha académica inebriante, o livro analisa os pressupostos subjacentes aos tratamentos automatizados oferecidos pelos chatbots de IA e a forma como os incentivos capitalistas podem corromper este tipo de ferramentas.

Fullam observa que a mentalidade capitalista por detrás das novas tecnologias “conduz frequentemente a práticas comerciais questionáveis, ilegítimas e ilegais, nas quais os interesses dos clientes são secundários em relação às estratégias de domínio do mercado”.

Isso não significa que os fabricantes de bots terapêuticos “irão inevitavelmente conduzir atividades nefastas contrárias aos interesses dos utilizadores na busca pelo domínio do mercado”, escreve Fullam.

Mas ele observa que o sucesso da terapia de IA depende dos impulsos inseparáveis ​​de ganhar dinheiro e de curar as pessoas. Nesta lógica, a exploração e a terapia alimentam-se mutuamente: cada sessão de terapia digital gera dados, e esses dados alimentam o sistema que lucra à medida que os utilizadores não remunerados procuram cuidados. Quanto mais eficaz a terapia parece, mais o ciclo se consolida, tornando mais difícil distinguir entre cuidado e mercantilização. “Quanto mais os usuários se beneficiam do aplicativo em termos de intervenção terapêutica ou de qualquer outra intervenção de saúde psychological”, escreve ele, “mais eles são explorados”.

Esta sensação de um ouroboros económico e psicológico – a cobra que come a própria cauda – serve como uma metáfora central na Sikeo romance de estreia de Fred Lunzer, autor com experiência em pesquisa em IA.

Descrito como uma “história de um garoto que conhece uma garota que conhece um psicoterapeuta de IA”, Sike segue Adrian, um jovem londrino que ganha a vida escrevendo letras de rap, em seu romance com Maquie, uma profissional de negócios com talento para detectar tecnologias lucrativas em fase beta.

LIVROS CELADON, 2025

O título se refere a um chamativo terapeuta comercial de IA chamado Sike, carregado em óculos inteligentes, que Adrian usa para interrogar suas inúmeras ansiedades. “Quando me inscrevi na Sike, montamos meu painel, um amplo painel preto, como a cabine de um avião, que mostrava meus ‘dados vitais’ diários”, narra Adrian. “Sike pode analisar a maneira como você anda, como faz contato visible, as coisas sobre as quais fala, as coisas que veste, com que frequência você mija, caga, ri, chora, beija, mente, choraminga e tosse.”