O perigo de confiar na IA: professor perde 2 anos de trabalho no ChatGPT com um único clique

O que você faria se dois anos de sua vida intelectual desaparecessem em um segundo? Foi exatamente isso que aconteceu com Marcel Bucher, professor de ciências vegetais na Universidade de Colônia. Em um artigo publicado na revista Nature, Bucher revelou como uma simples alteração de configuração no ChatGPT Plus apagou permanentemente toda a sua estrutura acadêmica de pesquisa e ensino.

O professor utilizava a ferramenta da OpenAI como um assistente central para revisar publicações, analisar provas e estruturar pedidos de financiamento. Ele confiava na "continuidade do espaço de trabalho" — até que decidiu testar uma opção de privacidade.

O clique fatal e a "página em branco"

Ao contrário de um erro de sistema ou bug, o desaparecimento foi causado por uma função de configuração de dados. Bucher queria verificar se ainda teria acesso total às funções do modelo caso parasse de fornecer seus dados para o treinamento da IA.

• Ao desativar temporariamente o "consentimento de dados", o histórico de chats de Bucher foi deletado instantaneamente.
• Pastas de projetos foram esvaziadas e dois anos de trabalho estruturado sumiram. Não houve mensagens de alerta, confirmações de "tem certeza?" ou botões de desfazer.
• A OpenAI confirmou que os dados foram excluídos de forma permanente e não poderiam ser recuperados.

O alerta: IA não segue padrões acadêmicos de segurança

A experiência amarga de Bucher serve como um alerta urgente para pesquisadores e profissionais que integram a IA generativa em seus fluxos de trabalho. Ele destaca uma fragilidade fundamental: ferramentas como o ChatGPT são rápidas e flexíveis, mas não foram projetadas com padrões acadêmicos de confiabilidade e responsabilidade.

"Se um único clique pode apagar irrevogavelmente anos de trabalho, o ChatGPT não pode ser considerado completamente seguro para uso profissional", afirma Bucher.

A ironia da situação é que a OpenAI agiu conforme suas rígidas políticas de privacidade: ao retirar o consentimento de dados, o sistema interpretou que o usuário desejava a exclusão imediata de suas informações. Para a empresa, foi o cumprimento de um compromisso de privacidade; para o professor, foi um desastre profissional.