Especialistas são claros quanto a isso: "Crianças que nascem com IA correm o risco de nunca questionar uma resposta"

Está se tornando cada vez mais difícil para nós dizer "Eu não sei". Talvez seja uma das coisas mais honestas que uma pessoa pode fazer, e ainda assim, com a chegada da IA ​​e toda a informação ao nosso alcance, parece que estamos perdendo esse hábito nas conversas.

Um estudo buscou esclarecer essa questão. A conclusão a que chegou um grupo de pesquisadores de diversas universidades de Paris, Roma e Milão, após entrevistar 3,1 mil participantes, é que ter acesso à IA, mesmo que ela forneça respostas incorretas, leva as pessoas a pararem de reconhecer as limitações do próprio conhecimento.

Eu sei tudo

Reconhecer que não sabemos algo é mais útil do que pensamos, pois é uma habilidade mental que nos impede de agir com base em crenças falsas. Os autores do estudo chamam isso de "suspensão do julgamento", ou seja, a capacidade de fazer uma pausa antes de responder quando não temos certeza.

À medida que os assistentes de IA permeiam cada vez mais aspectos de nossas vidas, a pesquisa, de autoria de Chiara Marcoccia (École Normale Supérieure de Paris), Walter Quattrociocchi (Universidade Sapienza de Roma) e Valerio Capraro (Universidade de Milão-Bicocca), buscou determinar se a mera presença desses chatbots altera o momento em que decidimos que sabemos o suficiente para responder.

O experimento

Para isolar o efeito, a equipe criou perguntas que eram praticamente impossíveis de serem respondidas corretamente por uma IA, usando detalhes visuais muito específicos de filmes, como a cor do uniforme em "Bend It Like Beckham" ou o carro que um personagem dirige em "Cat and Mouse". Esses dados são tão específicos que raramente aparecem online, então o modelo usado no experimento (Step 3.5 Flash) falhou quase todas as vezes.

Os participantes podiam consultar a IA se quisessem, mas também tinham sempre a opção de deixar a questão em branco ou admitir que não sabiam a resposta.

Números

No grupo sem acesso a qualquer assistente de IA, 44% dos participantes admitiram não saber a resposta quando questionados. Entre aqueles que podiam pedir ajuda à IA, essa percentagem caiu para 3%, de acordo com o estudo. Além disso, a proporção de respostas corretas também diminuiu, de 27% para 9%. Por outras palavras, as pessoas responderam a mais perguntas, mas acertaram muito menos.

A descoberta mais surpreendente é que, apesar de cometerem mais erros, os participantes sentiram-se mais confiantes. De acordo com o estudo, a confiança nas suas respostas aumentou de 30% para 76%, quase duplicando.

E se houver dinheiro envolvido?

Os investigadores suspeitaram que pagar por respostas corretas (e penalizar as incorretas) poderia resolver o problema. De fato, ajudou, mas apenas ligeiramente. Com incentivos financeiros, a disposição para admitir que não sabiam a resposta aumentou de 3% para 8%, e as respostas corretas subiram de 9% para 16%. Curiosamente, os próprios autores esperavam que o efeito da IA ​​diminuísse com o envolvimento de dinheiro, mas seus dados não confirmaram essa hipótese. A tendência de confiar na máquina mostrou-se praticamente independente do incentivo financeiro.

Limitações

Capraro, coautor do estudo, explicou ao The Register que as pessoas "pioraram muito" em seu desempenho, atingindo apenas um terço da precisão do grupo sem IA, mas terminaram "duas vezes mais confiantes" em suas próprias respostas. Para o pesquisador, essa capacidade de dizer "Eu não sei" representa nada menos que "o reconhecimento dos limites do nosso próprio conhecimento".

Por outro lado, Capraro estava particularmente preocupado com o efeito que esse fenômeno poderia ter sobre as crianças. Como ele disse à publicação, os adultos "já possuem um sistema de pensamento crítico bem desenvolvido" antes da ampla adoção dessas ferramentas, mas as crianças que crescem usando IA desde o início "correm o risco de nunca desenvolver essa capacidade básica de questionar uma resposta".

Imagem | Solen Feyissa e Dylan Gillis