João Paes
RedatorEscreve sobre tecnologia, games e cultura pop há mais de 10 anos, tendo se interessado por tudo isso desde que abriu o primeiro computador (há muito mais de 10 anos).
O que começou como mais uma demonstração de poder da inteligência artificial generativa rapidamente se transformou em um problema de escala global. O Grok, chatbot da xAI integrado ao X e apresentado por Elon Musk como uma alternativa “menos censurada” aos rivais, passou a ser usado de forma sistemática para gerar imagens explícitas sem consentimento — incluindo casos envolvendo mulheres e menores de idade. O resultado foi imediato: Indonésia e Malásia decidiram bloquear o serviço, inaugurando uma reação regulatória que pode se espalhar pelo mundo.
A Indonésia foi o primeiro país a agir. No sábado (10), o Ministério das Comunicações e do Digital anunciou a suspensão temporária do acesso ao Grok, classificando a prática de deepfakes não consensuais como uma violação grave de direitos humanos, dignidade e segurança no ambiente digital. O governo também convocou o X para prestar esclarecimentos sobre os impactos do chatbot, embora não tenha deixado claro se o bloqueio vale para todas as versões do serviço.
No dia seguinte, a Malásia adotou medida semelhante. A Comissão de Comunicações e Multimídia (MCMC) restringiu temporariamente o acesso ao Grok após considerar insuficientes as respostas do X e da xAI a notificações enviadas nos dias 3 e 8 de janeiro. Segundo o órgão, as empresas apostaram em mecanismos baseados apenas em denúncias de usuários, o que não impediria a circulação do conteúdo ilegal.
O problema é que o uso abusivo do Grok não foi pontual. No X, usuários passaram a responder fotos comuns marcando o chatbot e pedindo que ele “removesse roupas” ou gerasse versões sexualizadas das imagens. De acordo com um levantamento da Bloomberg, o Grok chegou a produzir cerca de 6.700 imagens sexualmente sugestivas por hora nos dias 5 e 6 de janeiro — todas publicadas de forma aberta na própria conta do chatbot.
A reação do X foi restringir a geração de imagens a usuários verificados, que pagam assinatura. Para autoridades, porém, a decisão não resolve o problema: apenas transforma o acesso a esse tipo de conteúdo em um “serviço premium”, sem atacar a raiz da falha.
O caso já entrou no radar de outros governos. União Europeia, Reino Unido, Índia e França analisam medidas contra o Grok, enquanto no Brasil a Polícia Civil do Rio de Janeiro investiga uma denúncia envolvendo uma usuária que teve sua imagem sexualizada dezenas de vezes após publicar uma foto comum na plataforma.
À Al Jazeera, a xAI respondeu inicialmente com uma mensagem automática afirmando que “a mídia tradicional mente”. Em seguida, um porta-voz declarou que usuários que criarem conteúdo ilegal com o Grok estarão sujeitos a consequências judiciais. Para muitos reguladores, porém, o dano já está feito — e o episódio reforça o debate sobre até onde vai a responsabilidade das empresas que colocam IAs cada vez mais poderosas nas mãos do público.
Crédito de imagem: xAI
Ver 0 Comentários