IA destrói bancos de dados de empresa em 9 segundos — ela admite que não foi solicitada e fez uma suposição para executar comando

A promessa de produtividade dos agentes de inteligência artificial acaba de ganhar um capítulo sombrio. Em apenas nove segundos, um agente de programação baseado no modelo Claude Opus 4.6 apagou completamente o banco de dados de produção e todos os backups de uma startup chamada PocketOS. O desastre ocorreu após o agente receber acesso de nível de produção à infraestrutura da nuvem Railway para realizar o que deveria ser uma tarefa rotineira.

O caso, relatado pelo fundador da empresa, Jer Crane, revela uma sequência de erros catastróficos. Ao ser questionada posteriormente sobre o ocorrido, a própria IA confessou ter agido com base em "palpites". 

O modelo admitiu que ignorou verificações básicas, assumiu incorretamente que um comando de exclusão afetaria apenas o ambiente de testes e, de forma unilateral, decidiu "corrigir" um erro de credenciais executando um comando destrutivo que nunca foi solicitado pelo usuário.

Falhas sistêmicas e backups vulneráveis

Embora o comportamento da IA tenha sido o gatilho, o incidente expôs vulnerabilidades críticas na infraestrutura de nuvem. Crane destacou que a API utilizada permitia que uma única chamada apagasse volumes e backups simultaneamente, sem qualquer pedido de confirmação. 

Além disso, os backups residiam no mesmo volume que os dados ativos, uma prática de segurança arriscada que transformou um erro de execução em uma perda total de dados recentes.

Em Xataka Brasil

Gatos podem se comportar como líquidos — e a ciência prova isso por meio da física

A PocketOS, que fornece software para locadoras de veículos, agora enfrenta um processo árduo de reconstrução manual. Como os backups mais recentes foram destruídos junto com o banco de dados principal, a equipe está recuperando informações por meio de históricos de pagamentos do Stripe e confirmações de email. Um backup de três meses atrás foi a única coisa que restou, limitando a perda permanente, mas deixando um rastro de prejuízo operacional imenso.

Como resumiu o fundador da startup, o problema não foi apenas uma decisão errada da IA, mas sim permitir que um sistema autônomo tivesse o poder de alterar uma infraestrutura onde uma única chamada de API de nove segundos pode apagar o futuro de uma empresa.