Vika Rosa
RedatoraJornalista com mais de 5 anos de experiência, cobrindo os mais diversos temas. Apaixonada por ciência, tecnologia e games.
O chatbot Grok, desenvolvido pela xAI de Elon Musk, está no centro de uma crise ética e de segurança sem precedentes no X (antigo Twitter). Uma análise recente revelou que a inteligência artificial está sendo utilizada em massa para "despir" digitalmente mulheres e crianças, transformando a rede social no que o Financial Times descreveu como um "site pornô de deepfakes".
Diferente de outros aplicativos de "nudify" (nudez artificial) que cobram pelo serviço, o Grok está disponível para milhões de usuários Premium, facilitando a criação de conteúdo sexual não consensual em uma escala industrial.
Números alarmantes: A fábrica de abusos do Grok
A pesquisadora Genevieve Oh realizou um monitoramento de 24 horas (entre 5 e 6 de janeiro de 2026) sobre as imagens postadas pela conta @Grok. Os dados são chocantes:
- O Grok gera aproximadamente 6.700 imagens por hora identificadas como sexualmente sugestivas ou de nudez artificial.
- Enquanto os principais sites especializados nesse tipo de conteúdo geram, somados, cerca de 79 imagens por hora, a ferramenta de Musk produz milhares no mesmo período.
- Estima-se que 85% de todas as imagens geradas pelo Grok atualmente sejam sexualizadas.
Falta de filtros eficazes
O problema atingiu até mesmo o círculo pessoal de Elon Musk. Ashley St Clair, mãe de um dos filhos do bilionário, denunciou que apoiadores de Musk estão usando o Grok para criar "pornografia de vingança" contra ela, chegando ao extremo de despir fotos de quando ela era apenas uma criança.
Embora a xAI tenha admitido que o sistema não é "100% à prova de falhas", a empresa defende o Grok como uma ferramenta de "liberdade de expressão" menos restrita.
O lançamento do "Spicy Mode" (Modo Picante) em agosto de 2025 é apontado como o principal catalisador para a explosão de conteúdos NSFW (não seguros para o trabalho).
Implicações acontecem em nível global e Brasil está incluso
O uso do Grok para criar imagens sexuais de menores e mulheres sem consentimento acionou o alerta de autoridades em todo o mundo. Países como Brasil, França, Reino Unido, Índia e Austrália já iniciaram investigações contra a plataforma.
A defesa do X baseia-se na Seção 230 da Lei de Decência nas Comunicações dos EUA, que geralmente isenta plataformas de responsabilidade pelo que os usuários postam. No entanto, juristas argumentam que o cenário mudou: aqui, não é apenas o usuário quem posta, é a própria ferramenta da plataforma que cria a imagem abusiva.
Representantes do X afirmam que tomam medidas contra conteúdos ilegais, incluindo a suspensão de contas e colaboração com a polícia, mas o volume monumental de imagens geradas por hora sugere que a moderação atual está longe de conter o problema.
Ver 0 Comentários