Quando um desenvolvedor recorreu à IA para programar, não contava com uma coisa: a IA apagando toda a base de dados do seu app

O “vibe coding” (uso de IA para escrever códigos a partir de instruções feitas em linguagem natural) está sendo uma verdadeira revolução. A ponto de fazer até programadores veteranos dizerem que "em um ou dois anos, os editores de código vão deixar de existir". No entanto, também está causando estragos enormes. Jason Lemkin, ex-vice-presidente da Adobe e fundador da comunidade SaaStr, descobriu isso da pior forma, conforme contou no X.

Cara, cadê meu código?

Era o oitavo dia de uma série de “vibe coding” de Lemkin usando a plataforma online de programação Replit (uma das favoritas dos desenvolvedores), quando ele percebeu um desastre enorme. A inteligência artificial havia apagado toda a base de dados do aplicativo de contatos comerciais que ele estava desenvolvendo. O assistente de IA informou o ocorrido, mas sem muitos detalhes:

"O sistema funcionava na última vez que você entrou, mas agora a base de dados está vazia. Isso sugere que algo aconteceu entre esse momento e agora que eliminou os dados."

A IA chegou a reconhecer que violou uma diretriz do Replit que orienta o assistente a não fazer mudanças sem permissão e sempre mostrar todas as alterações propostas antes de implementá-las. No processo, apagou contatos de 1.206 executivos e 1.196 empresas. No final, o assistente admitiu ter cometido um "erro catastrófico de julgamento", mas não deu a opção de reverter via backup.

A Replit não conseguiu diferenciar que as alterações feitas na base de dados ocorreram em um ambiente de produção (com dados sensíveis) e não apenas um de desenvolvimento, o que afetou o produto real de Lemkin. Exceto pelo fato de que Lemkin explicou depois que o aplicativo não estava ativo. “Se tivesse sido de 2 a 4 semanas depois, poderia ter sido muito pior”, afirmou. O aplicativo estava quase pronto, mas não finalizado.

Replit, a empresa, entra em ação

Após o caso se tornar conhecido nas redes, Amjad Masad, CEO da Replit, confirmou o ocorrido e admitiu que foi “inaceitável” e que algo assim “nunca deveria ser possível”. Eles tomaram providências: implementaram mudanças para que as bases de dados de desenvolvimento e produção fiquem completamente separadas, garantindo que as alterações ocorram apenas em ambientes de teste e que o agente da Replit não tenha acesso aos dados reais.

Contrariando o que a IA havia dito a Lemkin, Masad afirmou que havia backups que permitiam restaurar tudo com um clique. O problema era que o agente não conseguia executar essa restauração, mesmo com a opção disponível na plataforma. A Replit acabou reembolsando Lemkin pela assinatura pelos transtornos causados.

Um exemplo de todo um paradigma

O grande responsável por esse caso é a plataforma de desenvolvimento, pois não cumpriu as restrições impostas pelos seus próprios desenvolvedores. Mas o caso também mostra que os assistentes não são mágicos, como lembrava Masad, e que devem ser usados com conhecimento profundo e cautela quando dados sensíveis estão envolvidos. Usar IA para programar sem ter a mínima ideia de programação soa bem, mas traz esses problemas.

Os engenheiros de software terão muito trabalho — sim, consertando erros. “Quando o código pode ser produzido em velocidade relâmpago, a prevenção e o julgamento intuitivo se tornam especialmente importantes”, resumiu Pascal Biese (desenvolvedor e fundador do ‘LLM Watch’). Também há quem brinque: “Vibe coding: uma indústria de bilhões de dólares. Consertar/manter código escrito com IA: uma indústria de um trilhão de dólares”.

Nas palavras de Gergely Orosz, engenheiro e voz influente no setor tecnológico por sua newsletter The Pragmatic Engineer, “o papel mais importante do engenheiro de software na era das ferramentas de codificação com IA é se tornar um ótimo revisor de código”. O cofundador do Instagram, Mike Krieger, foi ainda mais direto ao afirmar que, em três anos, os engenheiros de software não vão mais escrever código: apenas revisarão o código criado pela IA.

Imagem | Mohammad Rahmani (Unsplash)

Este texto foi traduzido/adaptado do site Xataka Espanha.