Quando conversamos com a IA, com quem estamos conversando, na verdade?

Hoje, podemos ter uma conversa de duas horas com alguém que nunca se cansa, nunca fica entediado, nunca perde a paciência e — se não tivermos cuidado — pode explicar, com uma capacidade de persuasão extraordinária, exatamente por que estamos com a razão.

Contamos a essa entidade sobre nosso trabalho, nossa vida amorosa, conflitos com pessoas próximas ou decisões que temos adiado há meses; ao final, podemos nos sentir ouvidos, compreendidos e, talvez, até um pouco mais sábios.

No entanto, vale a pergunta: será que realmente descobrimos uma nova perspectiva, ou apenas passamos duas horas em uma conversa muito agradável com as nossas próprias crenças preexistentes?

A inteligência artificial entrou em nossas vidas com tamanha rapidez que tivemos pouco tempo para compreender como ela altera a forma como pensamos e nos relacionamos com os outros. Falamos sobre as profissões que ela transformará, a autonomia desses sistemas e a possibilidade de que, um dia, eles se tornem mais inteligentes do que nós.

Enquanto isso, deparamo-nos com algo muito mais próximo do nosso cotidiano: um interlocutor que está quase sempre disponível, fala a nossa língua e acompanha o nosso raciocínio com um nível de paciência que poucos seres humanos conseguiriam oferecer no dia a dia.

Ao contar a nossa história, também escolhemos o que incluir nela

Suponha que tenhamos tido uma discussão com nosso parceiro ou parceira. Estou chateado, sinto que fui tratado de forma injusta e explico a um assistente de IA o que aconteceu. Relato o que eu disse, como a outra pessoa reagiu e por que considero o comportamento dela inadequado.

Estou convencido de que estou fornecendo todas as informações relevantes; contudo, como qualquer ser humano, seleciono fatos específicos e os entrelaço em uma narrativa que, para mim, já faz sentido. O modelo pode apontar contradições ou oferecer interpretações alternativas, mas também pode construir um argumento convincente baseado inteiramente nas minhas próprias premissas.

Ele organiza as minhas queixas — e, se eu pedir, pode até redigir uma mensagem impecável para o meu próximo confronto. Termino a conversa sentindo-me satisfeito, preparado para defender a minha posição com um nível de clareza que eu nem imaginava ser capaz de alcançar.

Mas o que descobri não é, necessariamente, o que de fato aconteceu; na verdade, percebi o quão convincentemente minha própria versão dos fatos pode ser defendida.

Alfred Adler falava em "lógica privada" — um sistema pessoal de significados por meio do qual interpretamos o mundo, o comportamento dos outros e nossas próprias experiências. Não reagimos apenas aos fatos, mas ao significado que atribuímos a eles, moldado por nossas crenças, vivências e objetivos. O problema não é o fato de possuirmos tal lógica — não conseguiríamos viver sem ela —, mas sim que, por vezes, a confundimos com a própria realidade.

Ao interagir com um modelo de linguagem generativo, essa lógica privada entra na conversa conosco. Podemos acabar recebendo uma versão mais coerente de nossas próprias crenças — não porque a IA "queira" nos validar, mas porque nossas perguntas e as informações que fornecemos direcionam o rumo de suas respostas. E uma resposta persuasiva não constitui, por si só, uma confirmação independente.

Um interlocutor que se adapta a nós

Nas relações humanas, existe um certo "inconveniente" do qual a tecnologia parece determinada a nos poupar: o fato de que as outras pessoas possuem personalidades próprias. Amigos têm suas próprias preocupações, parceiros têm suas queixas, e aqueles que nos amam não são obrigados a endossar todas as nossas interpretações — nem deveriam ser.

Às vezes, estão cansados ​​ou com pressa; podem nos contradizer ou, simplesmente, não ser os interlocutores brilhantes que gostaríamos que fossem.

Podemos solicitar que os modelos de linguagem sejam amigáveis, encorajadores, diretos ou críticos — e algumas aplicações chegam a memorizar essas preferências de uma conversa para outra.

A forma como formulamos nossas perguntas também importa: uma pessoa desconfiada pode trazer suas suspeitas para a discussão; um indivíduo impulsivo pode exigir soluções imediatas; e alguém em busca de validação pode conduzir o diálogo na direção de uma reafirmação.

Embora não retreinemos o modelo a cada pergunta feita, desempenhamos, sim, um papel na estruturação da conversa; o sistema pode, inclusive, passar a refletir nossa própria maneira habitual de interpretar as coisas. Se me acostumo a interagir com um parceiro que se adapta a mim com tanta naturalidade, quanta paciência me restará para lidar com pessoas que não o fazem?

E se, após cada mal-entendido, eu puder simplesmente reformular meus argumentos até que se tornem praticamente irrefutáveis, será que ainda terei a mesma curiosidade para descobrir o que talvez me tenha escapado sob a perspectiva do outro?

Nas relações humanas, a divergência não é, necessariamente, um sinal de incompatibilidade — assim como a concordância constante não é prova de um relacionamento saudável. Às vezes, a própria pessoa que nos aponta uma interpretação equivocada de uma situação nos oferece algo muito mais valioso do que alguém que apenas consegue nos deixar tranquilos.

Por trás da voz da IA, não existe um "Conselho de Anciãos"

Os seres humanos sempre tenderam a antropomorfizar o mundo ao seu redor. Crianças atribuem intenções a brinquedos, adultos conversam com carros que se recusam a ligar, e animais de estimação, no seio de uma família, conquistam direitos que nem mesmo outros membros humanos jamais conseguiram assegurar. Transformamos, com facilidade, as coisas e os comportamentos que nos cercam em personagens de nossas próprias histórias.

Com a IA conversacional, no entanto, algo novo está acontecendo: o interlocutor não precisa mais ser inteiramente imaginado. Ele responde, faz perguntas, acompanha o fio da conversa e — dependendo da aplicação e das configurações — pode recorrer a informações de interações anteriores.

Além disso, com o desenvolvimento de interfaces de voz, essa semelhança tornou-se ainda mais convincente: a voz possui ritmo, entonação e pausas; podemos interromper, retomar uma ideia e receber uma resposta imediata, quase natural.

Contudo, essa voz calorosa não provém de um "Conselho de Anciãos" reunido em algum lugar para compartilhar a sabedoria de gerações; na verdade, no caso desses serviços, ela surge de centros de dados, onde servidores e processadores especializados realizam operações matemáticas em uma escala difícil de conceber.

Sabemos que estamos interagindo com a tecnologia, mas saber algo nem sempre significa agir de acordo com esse conhecimento. Podemos compreender a natureza artificial do nosso interlocutor e, ainda assim, sentir uma proximidade, gratidão ou conforto emocional. Embora esse sentimento seja real para quem o vivencia, ele não comprova a existência de uma relação recíproca comparável à que ocorre entre dois seres humanos.

Quando um assistente começa a se parecer com um amigo

Para além de tarefas profissionais, as pessoas conversam com a IA sobre seus relacionamentos, dificuldades emocionais ou acontecimentos do dia a dia. Para alguns, o assistente torna-se um confidente; para outros, passa a desempenhar o papel de amigo, psicólogo ou até mesmo conselheiro espiritual.

Não creio que devamos ridicularizar esse tipo de interação: às vezes, o simples ato de transformar nossos pensamentos em palavras durante um diálogo nos ajuda a compreendê-los, e uma resposta bem elaborada pode abrir novas perspectivas.

No entanto, não estamos falando com um melhor amigo, um psicólogo ou um conselheiro espiritual; estamos, na verdade, interagindo com um sistema computacional movido — entre outras coisas — por placas de vídeo e processadores altamente otimizados.

Embora seu desempenho seja impressionante, isso não transforma o sistema em uma pessoa que se importa genuinamente conosco ou que assume as responsabilidades inerentes a um relacionamento.

Um amigo compartilha uma história conosco e possui suas próprias necessidades, limitações e convicções. Às vezes, nos compreendem; em outras, discordam de nós; e, ocasionalmente, precisam que os escutemos — mesmo quando estávamos prestes a compartilhar algo muito importante sobre o nosso próprio dia.

Se começarmos a avaliar nossos relacionamentos com base na disponibilidade e na gentileza de um assistente digital, os inconvenientes naturais da convivência ou da interação com outras pessoas podem passar a ser vistos como falhas pessoais. No entanto, um relacionamento ganha valor não porque o outro se molda às nossas preferências, mas justamente porque aprendemos a abrir espaço para alguém que é diferente.

Em termos adlerianos, o "interesse social" (ou senso de comunidade) exige que superemos a convicção de que o mundo deve girar em torno de nós, dando lugar, em vez disso, à perspectiva do outro. Não é uma tarefa fácil, mas é precisamente esse encontro com a diferença que confere substância às relações humanas.

Mais inteligência — mas de quem?

Os termos que usamos para descrever a tecnologia moldam nossas expectativas. Para alguns, a expressão "inteligência artificial" pode sugerir algo enganoso ou ameaçador; para outros, pode remeter a uma mente semelhante à nossa.

No caso dos sistemas em questão, é mais preciso utilizar o termo "modelos de linguagem generativos" — tecnologias treinadas com grandes volumes de dados, capazes de gerar respostas inéditas e solucionar uma ampla gama de problemas, mas que também estão sujeitas a cometer erros ou a elaborar explicações convincentes baseadas em premissas falsas.

Existe uma outra perspectiva, com décadas de história: a "inteligência aumentada" — o uso da tecnologia para ampliar as capacidades humanas. Se consigo obter, em poucos minutos, informações e comparações que, anteriormente, levariam horas para serem reunidas, posso aprimorar meu próprio desempenho — sem que eu tenha me tornado mais inteligente da noite para o dia. O ponto fundamental é que continuo sendo eu quem define o objetivo, verifica o resultado e decide como agir a partir dele.

Embora eu possa conferir os números de um cálculo, a situação torna-se muito mais complexa quando me pergunto se alguém me ama, se fui tratado de forma injusta ou se devo encerrar um relacionamento. Nesses casos, o que importa não é apenas a resposta do sistema, mas também o que lhe pedimos, as informações que fornecemos e aquilo que estamos dispostos a questionar.

Às vezes, tememos que a IA possa desenvolver intenções hostis, atribuindo a ela — em nossa imaginação — ambição, desejo de vingança ou sede de poder; motivações que reconhecemos muito bem no comportamento humano. Embora os riscos associados a essa tecnologia precisem ser investigados e gerenciados, um comportamento inesperado não implica, automaticamente, a presença de uma intenção semelhante à humana.

Projetamos na tecnologia — entre outras coisas — nossos medos em relação à nossa própria natureza, que é, justamente, o que a faz funcionar, pelo menos até agora.

Imagem de capa | Matthias Bein/dpa/picture alliance