“É verdade, Grok?”: a IA não é 100% precisa em verificar informações históricas

Uma imagem de uma família humilde espanhola dos anos 1950 se tornou recentemente o epicentro de uma polêmica viral no X. A fotografia acabou desencadeando a histeria de muitos usuários, uma comoção provocada pela confiança cega nas respostas de uma inteligência artificial, neste caso a do Grok. Mais um exemplo de que verificar informações históricas com IA tem suas complicações.

Tudo começou quando o usuário @kritikafull publicou uma fotografia em preto e branco de uma família em condições de pobreza, acompanhada da seguinte frase em tom irônico: “Com Franco, vivíamos melhor”. A imagem gerou milhares de visualizações, mas também despertou o interesse de muitos usuários que duvidaram que a fotografia tivesse sido tirada na Espanha e acabaram recorrendo ao Grok, como tem sido comum recentemente na rede social, para verificar a informação.

A origem da polêmica. Imagem: Estudio Fotográfico Arenas

Uma resposta problemática

O Grok identificou erroneamente a fotografia como uma imagem tirada durante a Grande Depressão nos Estados Unidos, atribuindo-a ao fotógrafo Walker Evans e afirmando que mostrava a família Burroughs. Essa resposta se replicou massivamente em dezenas de publicações, que acumularam milhares de visualizações, transformando o erro em uma aparente verdade que serviu para desacreditar a publicação original.

A usuária @ropamuig37, que se descreve em seu perfil como historiadora, decidiu verificar os fatos por meio de uma busca reversa de imagens no Google Lens. O resultado a levou diretamente ao arquivo fotográfico da Universidade de Málaga, onde a imagem aparece perfeitamente catalogada como “Habitação, agosto de 1952, Málaga, Espanha”. A fotografia faz parte de uma série de reportagens que inclui residências espanholas da época.

Se a IA diz que não, eu acredito

Quando a historiadora forneceu a Grok a documentação real, a inteligência artificial se manteve inflexível por horas, insistindo que se tratava de um “erro da UMA” e afirmando ter “verificado” a semelhança com a foto americana. Mesmo depois de a historiadora fornecer links diretos e comparações visuais evidentes, Grok demorou quase duas horas para reconhecer seu equívoco.

O dano já estava feito, já que as publicações que acreditaram na verificação de Grok acabaram inundando a rede social com milhares de visualizações. Enquanto isso, a checagem real da historiadora (e de outros usuários como @RemusOkami, segundo lembrado em seu fio) inicialmente acumulou apenas uma fração do que conseguiram as demais publicações que viralizaram a resposta errada do Grok.

Um problema maior

Na plataforma, o uso do Grok para realizar todo tipo de verificações das publicações dos usuários se tornou normalizado. “Grok, explique isso para mim” ou “Grok, isso é verdade?” são expressões cada vez mais comuns no X, onde milhões de usuários começaram a delegar à IA tarefas de verificação e compreensão que tradicionalmente exigiam confrontar diversas fontes. E, claro, pelo menos atualmente, a confiança cega nessas ferramentas pode gerar desinformação em grande escala. Já vivemos isso nos últimos anos após o boom da IA, uma consequência que, dado o refinamento cada vez maior dessas ferramentas, tende a se intensificar.

Em contextos polarizados, quando qualquer informação pode ser instrumentalizada politicamente, a IA também pode acabar se tornando uma ferramenta perigosa, principalmente por sua capacidade de gerar respostas rápidas e não verificadas para confrontar determinados fatos. Felizmente, este caso não foi grave, mas reflete a adoção massiva das ferramentas de IA e o quanto começamos a confiar nelas.

Imagem | Estúdio Fotográfico Arenas e Walker Evans

Este texto foi traduzido/adaptado do site Xataka Espanha.