Existe uma crescente incapacidade em suportar os próprios dilemas, não é bem culpa da IA. Tem sido cada dia mais difícil lidar com dúvidas, ouvir o outro e aceitar o risco e a responsabilidade de decidir qualquer coisa. As relações humanas são complexas, não existe uma resposta certa que valha para todas as situações.

As pessoas têm perguntado aos chats se devem terminar o namoro. Se deveriam perdoar. Se o chefe é tóxico. Se seus pais são narcisistas.

O que está acontecendo conosco para que uma máquina tenha se tornado uma das primeiras a quem recorremos quando não sabemos o que fazer?

Observem que o algoritmo está ordenado para criar uma resposta empática conosco e é justamente por isso que pode nos afundar ainda mais. Não seria a dialética que ampliaria nossa compreensão? Não seria a boa crítica, a contraposição de pensamento, nossa melhor conselheira?

As pessoas não estão procurando por aconselhamento, estão procurando validação. Uma espécie de terceirização da consciência, porém, com palavras sofisticadas.

A máquina responde rapidamente, organiza argumentos, mostra possibilidades, reconhece nossos sentimentos, faz uma overdose de bajulações e ficamos com aquela sensação de termos sido compreendidos.

O fato é que um bom amigo, um bom conselheiro, um bom terapeuta, pode, deve e irá, lembrar você de seus traços tóxicos, confrontar sua visão, se opor a comportamentos extremistas seus, enfim, lhe dirá verdades nem sempre agradáveis, mas que, ao final, lhe farão repensar seu modo de ser, de agir e conviver com as pessoas.

Que trágica ironia usarmos inteligência para pararmos de pensar.

A IA não te conhece, não sabe o que você faz, além daquilo que você conta. Não conhece suas passagens e exemplos de infância, as repetições que você adquiriu, as mentiras convenientes que você assimilou. Ela só conhece o relato que você oferece. E, convenhamos, há uma diferença enorme entre conhecer uma história e conhecer alguém.

A máquina foi projetada para ser útil e empática, então este é o limite dela.

“Talvez o problema não seja apenas o outro.” "Você está fazendo novamente aquilo que fez antes”, "Talvez você esteja exagerando". Percebem como é diferente a resposta pela percepção humana?

E mais: não existem o certo e o errado totalitários.

Queremos aplicativos para dormir, meditar, organizar a agenda, encontrar parceiros e agora uma inteligência artificial para nos dizer o que fazer com aquilo que sentimos.

A vida, aparentemente, tornou-se um problema de interface. Mas, seria o sofrimento uma falha de sistema? Ou será que queremos ser competentes até para sofrer?

Amar pelo algoritmo. Uma fórmula para perdoar. Equações para vencermos as incertezas da vida não existem, os fracassos são importantes.

A IA pode oferecer uma resposta impecável, mas, ainda assim, uma resposta elegante para a pergunta errada continua sendo uma resposta errada.

É muito mais confortável descobrir que o outro é tóxico, que a família é narcisista, que o ex é abusivo, que a amiga é invejosa e que o mundo não nos reconhece.

Porém, insisto: "Como impor limites?" Jamais será: “Por que permaneço numa relação que há tanto tempo me faz mal?”