Natália P. Martins
RedatoraA inteligência artificial pode inventar fatos, estudos e até links que parecem verdadeiros. Embora os modelos de linguagem tenham evoluído, as chamadas alucinações continuam sendo um problema. Entender por que elas acontecem e como formular perguntas ajuda a reduzir o risco de receber informações falsas.
Recentemente, um jornalista decidiu usar o Gemini para encontrar assuntos atuais sobre os quais pudesse escrever. A ferramenta apresentou uma lista de sugestões que parecia diversificada e interessante. O problema é que boa parte dos temas era inventada ou estava desatualizada.
O episódio chamou a atenção porque, apesar de já conhecer as falhas da inteligência artificial, o jornalista havia percebido que respostas incorretas estavam se tornando menos frequentes. A lista, porém, mostrou que o problema ainda está longe de ser resolvido.
Segundo a análise, a quantidade de exigências e de fontes incluídas no comando pode ter contribuído para o resultado. A situação lembra a de um aluno que chega despreparado para uma prova e, sem saber a resposta, tenta blefar para não admitir que não conhece o assunto.
Por que os modelos de IA inventam informações?
As chamadas alucinações acontecem quando um modelo de inteligência artificial produz uma resposta que parece plausível, mas não corresponde aos fatos. Isso pode incluir dados, citações, nomes, estudos científicos e endereços de páginas que não existem.
A OpenAI, desenvolvedora do ChatGPT, explica que os métodos usados para avaliar modelos podem incentivar esse comportamento. Quando os sistemas são recompensados por acertar respostas, mas não por admitir que não sabem algo, podem acabar fazendo suposições em vez de reconhecer uma lacuna de conhecimento.
Em outras palavras, o modelo pode preferir dar uma resposta aparentemente convincente a dizer que não tem informações suficientes.
A empresa afirma que as alucinações não podem ser completamente eliminadas. Mesmo modelos mais avançados, com acesso a ferramentas de busca e recursos de raciocínio, podem errar diante de perguntas que não têm uma resposta clara ou verificável.
Em quais situações a IA pode errar mais?
Há alguns cenários em que os modelos de linguagem tendem a produzir informações incorretas. Conhecê-los ajuda a identificar quando uma resposta precisa ser conferida com mais cuidado.
Quando faltam informações confiáveis
Se o modelo não tem acesso a dados suficientes para responder, pode tentar preencher as lacunas com informações inventadas.
Isso pode acontecer, por exemplo, ao pedir que uma IA interprete um trecho de livro ou a letra de uma música. Em um caso citado pelo jornalista, o ChatGPT inventou uma piada e sua interpretação ao ser questionado sobre uma passagem de A Sala de Aula Voadora, de Erich Kästner.
Só depois de ser questionado, o sistema admitiu que não tinha acesso ao texto completo da obra.
O mesmo risco aparece em perguntas sobre acontecimentos recentes, cálculos ou temas sobre os quais há poucos dados disponíveis. Por isso, respostas sobre notícias e assuntos atuais devem ser verificadas em fontes confiáveis.
Quando o comando é complexo demais
Pedidos com muitas exigências específicas podem dificultar a resposta. O mesmo ocorre quando o usuário envia documentos muito extensos, que podem ultrapassar a janela de contexto do modelo — a quantidade de informação que ele consegue processar de uma só vez.
Nesses casos, a IA pode deixar passar detalhes importantes ou misturar informações de diferentes partes do material.
Uma alternativa é dividir documentos grandes em trechos menores ou usar ferramentas especializadas, como o NotebookLM, do Google, que permite trabalhar com conjuntos de fontes e consultar seu conteúdo.
Quando a pergunta é vaga ou contraditória
Solicitações ambíguas também abrem espaço para respostas imprecisas. Se o usuário não explica exatamente o que deseja ou apresenta instruções que entram em conflito, o modelo pode interpretar o pedido de maneira equivocada.
Quanto mais clara for a tarefa, menor será o espaço para interpretações erradas. Fornecer contexto, delimitar o assunto e indicar quais informações devem ser consideradas ajuda a obter respostas mais úteis.
Como evitar respostas erradas do ChatGPT?
Não existe uma fórmula capaz de eliminar completamente as alucinações, mas algumas práticas ajudam a reduzir o risco de receber informações falsas.
- Peça que a IA reconheça quando não sabe: inclua no comando uma orientação explícita para que ela não invente informações e sinalize quando não tiver dados suficientes.
- Faça perguntas claras e específicas: evite instruções vagas ou contraditórias e explique exatamente o que espera da resposta.
- Forneça fontes confiáveis: quando estiver trabalhando com um documento, estudo ou notícia, envie o material e peça que a resposta se limite ao conteúdo fornecido.
- Divida tarefas complexas: em vez de pedir que a IA resolva muitas etapas de uma só vez, separe o trabalho em perguntas menores.
- Confira as informações importantes: verifique dados, citações, estudos e links em fontes originais, especialmente quando a resposta será usada em uma matéria, trabalho acadêmico ou decisão profissional.
Uma instrução útil é pedir que o modelo diferencie fatos confirmados de hipóteses e não complete lacunas com suposições.
A inteligência artificial não substitui a verificação
As respostas erradas podem frustrar quem espera que a IA seja uma ferramenta confiável para qualquer tarefa. Mas as alucinações também mostram por que é importante não delegar completamente o julgamento a um chatbot.
Mesmo quando a resposta parece bem escrita, contém números precisos ou apresenta links, isso não significa que seja verdadeira. A fluidez do texto pode esconder erros.
O melhor caminho é usar a inteligência artificial como uma ferramenta de apoio, não como fonte definitiva. Ela pode ajudar a organizar informações, resumir documentos e sugerir caminhos de pesquisa, mas cabe ao usuário verificar o que realmente está correto.
Imagem de capa gerada por inteligência artificial.
Ver 0 Comentários