Bárbara Castro
RedatoraDurante o período de tensões militares com o Irã, um relatório começou a circular pelos altos escalões das Forças Armadas dos Estados Unidos com um alerta gravíssimo: um navio chinês que navegava pelas águas do Oriente Médio transportava componentes ligados a um programa de armas nucleares. A reação foi fulminante. Tropas de elite se prepararam para abordar a embarcação e caças norte-americanos chegaram a decolar para dar suporte à ofensiva. Poucos minutos antes do início da operação, uma checagem minuciosa revelou o absurdo: uma IA havia identificado a carga do navio de forma totalmente errada.
O documento de inteligência era, segundo fontes do governo, "completamente falso".
A carga do navio chinês
O estopim da crise foi a análise do manifesto de carga da embarcação realizada pelo Comando de Operações Especiais dos EUA no Pacífico. Um analista militar usou um chatbot para examinar a papelada, e a ferramenta de inteligência artificial combinou registros públicos com informações confidenciais de inteligência de sinais mantidas pelo Pentágono.
O cruzamento produziu um parecer bombástico: o cargueiro estaria transportando material atômico sigiloso. A emissora CNN apurou que ainda não se sabe o que a embarcação levava de verdade nem qual item desencadeou a confusão no algoritmo, mas interlocutores afirmam categoricamente que o alerta era infundado. O perigo real é que o erro não ficou restrito ao computador do militar.
Um erro no relatório
A situação tomou proporções críticas porque o próprio analista voltou a recorrer à IA generativa para converter a resposta da máquina em um relatório oficial, diagramado segundo os padrões das Forças Armadas. Foi nesse momento que o problema se tornou invisível: uma alucinação criada por um chatbot assumiu a forma de um dossiê militar legítimo e passou a circular entre oficiais acostumados a confiar cegamente nesse tipo de documentação.
Não se tratava de uma inteligência autônoma assumindo o botão vermelho, mas sim de humanos tomando decisões com base em conclusões sintetizadas por uma máquina, sem qualquer filtro crítico. Uma autoridade militar ouvida pela CNN resumiu a falha com uma frase demolidora: a inteligência artificial permite "chegar mais rápido a uma péssima ideia".
Por um triz
A partir desse relatório fictício, o Exército dos Estados Unidos começou a preparar a interceptação armada do navio chinês. Fontes relatam que militares equipados já estavam prontos para subir a bordo e que aeronaves de combate já haviam deixado a pista. Foi literalmente instantes antes da investida que outros analistas decidiram rastrear a origem daquelas informações, flagraram o uso do modelo de linguagem e constataram a leitura equivocada do manifesto.
Uma fonte do governo classificou o relatório como "completamente falso" e desabafou, dizendo que o incidente "quase começou uma guerra mundial". Embora não haja documentos públicos afirmando que Pequim e Washington entrariam em conflito nuclear imediato, o episódio fala por si: uma operação de abordagem militar contra uma embarcação sob bandeira chinesa quase foi deflagrada por pura ficção algorítmica.
O problema não é a IA, somos nós
As alucinações continuam sendo um dos defeitos mais recorrentes e crônicos dos grandes modelos de linguagem (LLMs): a tecnologia é desenhada para soar convincente, mesmo quando fornece dados incorretos ou inventados do nada. No dia a dia corporativo, isso gera datas trocadas ou biografias imprecisas. Aplicado à defesa nacional, o mesmo mecanismo afeta deliberações sobre alvos estratégicos, rotas navais e ações táticas de guerra.
A crise com o cargueiro chinês expôs ainda que a presença de um operador humano no processo decisório não neutraliza automaticamente os riscos. Quando esse profissional confia em excesso na ferramenta, trabalha sob forte pressão por agilidade ou recebe a mentira envelopada em um layout militar de prestígio, o crivo humano vira mera formalidade burocrática.
Washington contra a lógica
Esse quase desastre acontece enquanto o Pentágono acelera a adoção de inteligência artificial em praticamente todas as suas frentes — desde rotinas logísticas e aprovação de verbas até a triagem de espionagem eletrônica e identificação de alvos. Em janeiro, o secretário de Defesa, Pete Hegseth, apresentou um plano focado em derrubar barreiras burocráticas para disponibilizar ferramentas de IA generativa a cerca de três milhões de servidores civis e militares.
A tese militar parece lógica à primeira vista: em um cenário de atrito direto contra a China, interpretar dados e ordenar manobras com rapidez extrema pode definir a vitória. O paradoxo revelado pelo caso do cargueiro é que essa mesma aceleração permite cometer erros catastróficos em uma velocidade inédita.
A próxima crise
O governo norte-americano reafirma há anos que o uso bélico da inteligência artificial deve manter o ser humano no comando final. Contudo, os depoimentos coletados pela CNN revelam um cenário fragmentado, no qual diferentes divisões utilizam ferramentas distintas, sem protocolos claros de auditoria, no exato setor em que um equívoco não tem volta: o disparo de armas e o abate de alvos.
O navio chinês deixa um alerta muito mais palpável do que os roteiros apocalípticos de robôs tomando consciência. O algoritmo não precisou se rebelar, assumir os controles ou atirar. Bastou alucinar com firmeza e contar com operadores humanos dispostos a acreditar na sua ilusão.
Por muito pouco, o mundo não assistiu ao início de uma escalada irreparável.
Matéria traduzida de Xataka*
Ver 0 Comentários