Laura Vieira
RedatoraJornalista recém-formada, com experiência no Tribunal de Justiça, Alerj, jornal O Dia e como redatora em sites sobre pets e gastronomia. Gosta de ler, assistir filmes e séries e já passou boas horas construindo casas no The Sims.
A internet não é considerada um território de ninguém à toa. Uma simples foto publicada nas redes sociais pode se tornar material para prática de violência digital em poucos cliques. É exatamente isso que vem acontecendo no X, o antigo Twitter, onde usuários passaram a utilizar o Grok, um assistente de inteligência artificial integrado à plataforma, para gerar imagens íntimas falsas de pessoas reais, sem nenhum consentimento. Em resposta ao crescimento desse tipo de abuso, autoridades brasileiras, como a Autoridade Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Senacon emitiram recomendações exigindo medidas imediatas da empresa para conter a prática.
O caso envolve o uso da inteligência artificial generativa do Grok para transformar fotos públicas, de mulheres adultas e também de crianças e adolescentes, em imagens sexualizadas, incluindo nudez. A prática levanta alertas sobre vigilância, exploração de dados pessoais, falhas de moderação e o papel das plataformas quando a tecnologia amplia danos em grande escala. No Brasil, as autoridades buscam pela responsabilização, limites da inteligência artificial e a proteção das vítimas diante dessas ferramentas.
Grok está sendo acusado de facilitar a produção de deepnudes no X
O Grok é um sistema de inteligência artificial desenvolvido pela xAI e integrado diretamente ao X. Desde agosto de 2024, com a atualização Grok Imagine, a ferramenta passou a oferecer geração avançada de imagens e vídeos, com níveis de restrição mais baixos do que os observados em serviços semelhantes. Na prática, isso significa que usuários conseguem criar imagens fotorrealistas ou estilizadas a partir de descrições simples ou de fotos reais enviadas à plataforma.
Isso acabou abrindo espaço para um uso abusivo recorrente: a criação de deepnudes, imagens íntimas ou sexualizadas produzidas por IA sem o consentimento da pessoa retratada. O preocupante é que as imagens podem ser feitas com comandos básicos, diretamente dentro da rede social que possui milhões de usuários.
Relatórios independentes indicam que o problema ganhou escala rapidamente. Um monitoramento realizado entre os dias 5 e 6 de janeiro de 2026 pela consultora Genevieve Oh identificou que o Grok chegou a gerar cerca de 6.700 imagens sexualizadas por hora no X, número que supera em mais de 80 vezes a média combinada de outras plataformas de IA generativa no mesmo período. Essa análise destacou o uso intensivo de comandos que transformavam fotos públicas em imagens íntimas.
O que dizem especialistas sobre o papel do X e da inteligência artificial?
Um dos principais argumentos utilizados por plataformas diante de abusos desse tipo é o de que a responsabilidade recai exclusivamente sobre quem insere os comandos. No Brasil, no entanto, esse entendimento encontra limites claros no Judiciário. Segundo Gabriela Carolina de Araujo, advogada da Andersen Ballão Advocacia, a plataforma não pode se eximir do dever de prevenção apenas porque o conteúdo foi gerado a partir de comandos de terceiros.
“O X tem o dever de implementar mecanismos de prevenção contra uso indevido e de remover conteúdos ilegais quando identificados, mesmo nos casos que as criações partam de comandos (‘prompts’) de usuários”, afirma.
A advogada explica que o entendimento mais recente do Supremo Tribunal Federal sobre o Marco Civil da Internet reforça essa interpretação. “Há uma presunção de responsabilidade em casos de geração ou impulsionamento de conteúdo ilícito”, ressaltando que isso se aplica também quando a violação é mediada por inteligência artificial integrada ao próprio serviço da plataforma.
Embora o Brasil ainda não tenha uma lei específica para regular os sistemas de inteligência artificial, Gabriela destaca que a estrutura jurídica atual já permite responsabilização. A Lei Geral de Proteção de Dados passa a ter relevância quando são utilizados dados biométricos, como imagens faciais ou corporais, sem consentimento, violando princípios como finalidade, adequação e necessidade.
Camila Giacomazzi Camargo, também advogada da Andersen Ballão Advocacia, destaca que o Estatuto da Criança e do Adolescente e o ECA Digital reforçam deveres adicionais de prevenção e monitoramento por parte das plataformas.
“Tendo em vista que crianças e adolescentes são considerados grupos vulneráveis, a legislação brasileira reforça que os crimes contra crianças e adolescentes constituem conduta grave”, afirma.
Segundo ela, o ambiente digital impõe obrigações específicas justamente para evitar exposição a conteúdos ilícitos ou sexualizados.
Brasil e outros países ampliam cerco regulatório ao uso do Grok para criação de imagens íntimas falsas
Diante do aumento de denúncias envolvendo as deepnudes, autoridades brasileiras formalizaram recomendações exigindo ações imediatas do X. Entre as medidas solicitadas estão a implementação de filtros técnicos eficazes, suspensão de contas envolvidas, criação de canais acessíveis de denúncia e a elaboração de relatórios de impacto sobre o uso de dados pessoais. Para Camila, as medidas caminham na direção correta, mas não resolvem o problema de forma definitiva.
“As medidas propostas, como filtros técnicos, suspensão de contas e relatórios de impacto, são relevantes porque demonstram uma exigência imediata de adoção e a necessidade de um cronograma para implementação gradual das demais”, afirma. Ainda assim, ela ressalta que “não garantem a eliminação total dos riscos, exigindo acompanhamento constante e eventual imposição de novas obrigações”, afirmou.
Caso não haja cumprimento dentro do prazo estabelecido, 27 de janeiro, os órgãos MPF, ANPD e Senacon sinalizam que podem adotar medidas administrativas e judiciais, como multas, suspensão de serviços, bloqueio de funcionalidades e ações judiciais, além de outras medidas necessárias para proteger os direitos dos cidadãos afetados. Confira algumas medidas:
- Marco Civil da Internet (art. 12): sanções como advertência, multa, suspensão temporária ou proibição de atividades;
- Código de Defesa do Consumidor (art. 35): responsabilização por descumprimento de obrigações, inclusive com imposição de multas e medidas corretivas;
- Lei Geral de Proteção de Dados (art. 52): aplicação de sanções administrativas, como advertências, multas, bloqueio ou eliminação de dados pessoais;
- Demais normas citadas (LC nº 75/1993, Decreto nº 2.181/1997, Decreto nº 11.348/2023): permitem abertura de processos administrativos e imposição de medidas adicionais de fiscalização e restrição.
Além do Brasil, outros países já avançaram com investigações, suspensões e mudanças legislativas diante do uso do Grok para gerar deepnudes. Esse movimento internacional reforça a tendência de maior análise sobre ferramentas de IA integradas a redes sociais, especialmente quando o modelo ignora os riscos conhecidos. Para as vítimas, os caminhos de reparação passam por notificações às plataformas, denúncias a autoridades competentes e ações judiciais nas esferas cível e penal.
Ver 0 Comentários