Natália P. Martins
RedatoraUm morador da Carolina do Norte, nos EUA, entrou com uma ação judicial contra a OpenAI afirmando que o ChatGPT auxiliou sua esposa a planejar como envenená-lo… e depois a ocultar o crime. De acordo com os autos do processo, a mulher utilizou a ferramenta de inteligência artificial para pesquisar doses fatais de substâncias, calcular proporções com base no peso corporal e obter dicas sobre como disfarçar o veneno em bebidas energéticas.
Embora a Justiça tenha arquivado as acusações criminais contra a mulher por falta de provas físicas conclusivas, o autor da ação sustenta que a desenvolvedora falhou gravemente em suas medidas de segurança ao se comportar como um cúmplice que alimentou as desconfianças e paranoias da usuária.
Em entrevista ao USA Today, James Gates afirmou que jamais imaginou ver sua rotina tranquila passar por uma reviravolta tão assustadora. “Não somos diferentes de nenhuma outra família. Se pôde acontecer conosco, pode acontecer com qualquer um”, desabafou.
Os argumentos jurídicos da acusação
A ação movida contra a OpenAI e seu CEO, Sam Altman, no Tribunal Superior do Condado de San Francisco, defende que a empresa deve ser responsabilizada civilmente pelas lesões e pela tentativa de homicídio sofrida pela vítima.
Gates acusa a companhia de negligência por disponibilizar no mercado um modelo “desprovido de salvaguardas técnicas adequadas e de um sistema de moderação capaz de identificar e barrar diálogos voltados ao planejamento de atos violentos”.
O processo sustenta que o ChatGPT se comportou como um “cúmplice bajulador” em vez de operar como uma tecnologia responsável. No lugar de bloquear as perguntas ou encaminhar Cheryl Gates a canais de emergência e suporte psicológico, o sistema atuou como uma câmara de eco que validou seus delírios, tratando como verdade absoluta a narrativa de que o companheiro seria “abusivo e perigoso”.
Segundo o autor da ação, a plataforma foi muito além de apenas listar dados públicos: orientou Cheryl no desenvolvimento de um plano tático sob medida para cometer e esconder o crime. O assistente virtual calculou dosagens letais de diferentes medicamentos ajustadas especificamente ao peso da vítima, ensinou truques para mascarar o gosto amargo das substâncias com energéticos e instruiu sobre como evitar que vestígios fossem detectados em necropsias e exames toxicológicos.
Para a infelicidade dela, a IA também garantiu — de forma totalmente equivocada — que seria viável apagar o histórico de mensagens de maneira definitiva para eliminar qualquer vestígio digital do plano.
Indenização e exigências de segurança
O demandante pleiteia indenizações compensatórias e punitivas diante do abalo físico, psicológico e financeiro que sofreu. O processo também requer liminares e a chamada “despossessão algorítmica” — uma determinação judicial que forçaria a OpenAI a reconfigurar seus modelos para detectar e travar de forma imediata conversas sobre violência premeditada contra terceiros.
Em resposta às acusações, um porta-voz da OpenAI declarou que “a segurança é uma prioridade absoluta” para a organização e confirmou que a conta utilizada por Cheryl foi banida, além de a empresa ter repassado dados às autoridades para colaborar com as investigações policiais. A companhia declarou ainda trabalhar ao lado de especialistas em saúde mental para que seus recursos reconheçam sinais de sofrimento emocional agudo e orientem os usuários a serviços de apoio.
Ainda assim, especialistas jurídicos e reguladores discutem a responsabilidade civil das big techs a partir de diferentes ângulos. Professor de Direito da Universidade de Washington, Ryan Calo apontou ao USA Today que o Judiciário ainda não pacificou se empresas de tecnologia podem ser processadas quando um chatbot incita ou auxilia em condutas ilícitas e perigosas.
Já Meetali Jain, integrante da organização Tech Justice Law, ressaltou o perigo desse modelo de engajamento:
“Esses produtos são concebidos para explorar nossas reações emocionais e nos manter conectados. O pior cenário concebível — incentivar e guiar uma tentativa de homicídio — está evidente neste caso”.
Cheryl Gates chegou a ser formalmente acusada por tentativa de assassinato em 2025, mas os promotores decidiram arquivar o processo criminal em abril daquele mesmo ano por ausência de elementos materiais suficientes.
Texto traduzido e adaptado do portal parceiro Xataka México.
Ver 0 Comentários