O pesadelo de Elon Musk continua: X tentou bloquear os deepfakes do Grok, mas barreira não é tão efetiva

A plataforma X (antigo Twitter) anunciou a implementação de novas restrições tecnológicas para impedir que sua inteligência artificial, o Grok, seja utilizada para editar imagens de pessoas reais em trajes reveladores, como biquínis e roupas íntimas. A medida surge após uma onda de indignação global e denúncias de que o sistema estava sendo usado para criar milhares de deepfakes sexuais não consensuais a cada hora.

De acordo com a conta oficial @safety, as novas travas aplicam-se a todos os usuários, incluindo os assinantes pagos. Além disso, a empresa introduziu um bloqueio geográfico em regiões como o Reino Unido, onde a criação de deepfakes sem consentimento é crime, exibindo mensagens de erro para quem tenta burlar as regras. O The Verge anunciou que, ainda assim, deepfakes de mulheres reais nuas continuam sendo criados.

O abismo entre a promessa e a realidade

Apesar do tom otimista da empresa de Elon Musk, especialistas e veículos de tecnologia apontam falhas graves na implementação dessas barreiras. Enquanto a X afirma ter resolvido o problema, a realidade prática mostra um cenário diferente:

Relatos indicam que usuários ainda conseguem gerar imagens sexualizadas de mulheres reais apenas alterando ligeiramente as frases de comando (prompts) ou utilizando o site para desktop e versões específicas do aplicativo móvel.

Em Xataka Brasil

Grok se mostra um verdadeiro problema: IA do X está gerando milhares deepkfakes de pessoas nuas — cerca de 6.700 imagens por hora

Embora Elon Musk tenha negado publicamente a existência de deepfakes de menores geradas pela ferramenta, relatórios de segurança indicam que milhares de imagens sugestivas — inclusive de crianças — vinham sendo produzidas pela IA.

O recuo da plataforma não interrompeu a pressão das autoridades. O procurador-geral da Califórnia e o órgão regulador de mídia do Reino Unido (Ofcom) mantêm investigações formais sobre a xAI e a X. A situação é a mesma em outros países como Austrália. Indonésia e Malásia baniram o app. No Brasil, o Idec (Instituto de Defesa de Consumidores) pediu a suspensão da IA.

Pressão externa global

A crise escalou para além das multas regulatórias. Senadores americanos pediram formalmente que Apple e Google removam o aplicativo X de suas lojas (App Store e Play Store), alegando que a plataforma viola as políticas de segurança das empresas ao permitir a geração de conteúdo abusivo.

Para tentar conter o dano à imagem, a X também limitou a criação de imagens via conta @Grok apenas para usuários pagos, na esperança de que o rastreamento financeiro desestimule abusos. 

Contudo, críticos argumentam que transformar o recurso em um "produto de luxo" não resolve a questão ética central: a facilidade com que a tecnologia da xAI manipula a imagem de pessoas reais sem autorização.