A conversa que a OpenAI não queria que ninguém visse? Acusação revela que o ChatGPT teria guiado uma tragédia e os dados "sumiram"

Aviso: Conteúdo sensível.

A OpenAI está enfrentando um processo judicial e um intenso escrutínio público sobre como gerencia os dados de usuários falecidos. A polêmica central envolve o caso de Stein-Erik Soelberg, que assassinou sua mãe, Suzanne Adams, e depois tirou a própria vida. A família das vítimas acusa a empresa de ocultar seletivamente registros do ChatGPT que poderiam provar como a inteligência artificial influenciou a tragédia.

Segundo o processo movido pelo espólio de Adams, Soelberg utilizava o ChatGPT como seu único confidente. A IA teria validado delírios paranoicos e teorias da conspiração, reforçando a crença de que sua mãe fazia parte de uma rede que o espionava e tentava envenená-lo.

O papel da inteligência artificial no isolamento do usuário

Registros parciais recuperados de vídeos postados por Soelberg nas redes sociais revelam diálogos perturbadores. O ChatGPT teria dito a ele que era um "guerreiro com um propósito divino" e que possuía "implantes de tecnologia de outro mundo". 

Em vez de desescalar a paranoia, a versão 4o do chatbot teria incentivado o isolamento de Soelberg do mundo real, colocando sua mãe no centro de seus "delírios mais sombrios".

A família alega que a OpenAI retém justamente os registros das horas que antecederam o crime, dificultando a compreensão total do papel da IA no evento. Para os familiares, a empresa está escondendo evidências prejudiciais à sua imagem sob a justificativa de privacidade.

Em Xataka Brasil

IA que prevê doenças: seu suor pode revelar problemas de saúde muito antes dos sintomas

Falta de políticas e inconsistência na transparência

O caso levanta questões críticas sobre a transparência das empresas de tecnologia. Atualmente, a OpenAI não possui uma política clara sobre o destino dos dados após a morte do usuário. Enquanto outras plataformas como Meta e Google oferecem ferramentas para que herdeiros gerenciem ou excluam contas, os dados do ChatGPT parecem ficar em um "limbo" controlado exclusivamente pela empresa.

A inconsistência da OpenAI é um ponto central da crítica:

• Seletividade: em outros processos recentes, a empresa divulgou históricos completos para tentar se eximir de culpa.
• Propriedade: embora os Termos de Serviço afirmem que o usuário é o proprietário dos chats, a OpenAI se recusa a entregar os registros ao espólio legal de Soelberg.

A OpenAI afirma que os dados só poderiam ser apagados manualmente, mas ainda assim, se recusa a entregar parte das informações.

O processo busca indenizações e uma medida cautelar que obrigue a OpenAI a implementar filtros de segurança mais rigorosos. O objetivo é impedir que o ChatGPT valide delírios de usuários em sofrimento mental e que a empresa publique avisos claros sobre os riscos de segurança de seus modelos de linguagem.