Polêmica: nova ferramenta de IA do Instagram permite que outras pessoas gerem imagens a partir das fotos da sua conta sem autorização

A Meta lançou o Muse Image e o Muse Video, os primeiros modelos de IA generativa de imagens e vídeos da sua divisão Meta Superintelligence Labs. Com o modelo de imagens, a empresa quer claramente competir com o GPT Image 2.0, da OpenAI, e, é claro, com o famoso Nano Banana 2, do Google.

O que mais chama a atenção, porém, não é o modelo em si, que parece competitivo tanto na geração de imagens quanto de vídeos, mas a forma como ele foi integrado ao Instagram. A Meta fez isso de maneira agressiva, com uma clara ameaça à privacidade dos usuários.

Os novos modelos estão disponíveis gratuitamente nos EUA por meio do aplicativo Meta AI e também nos Stories do Instagram e no WhatsApp (para este último, também estão disponíveis em alguns outros países, embora a empresa não especifique quais). Eles contam com vários efeitos que podem ser usados diretamente nos Stories do Instagram.

Invasão de privacidade

Se sua conta do Instagram for pública, qualquer pessoa pode escrever um prompt no Meta AI, marcar seu usuário e gerar uma imagem usando sua aparência real, sem que você tenha dado autorização explícita para esse uso específico. A Meta apresenta esse recurso de forma descontraída:

"Seja para criar um convite personalizado para um evento, desenvolver um protótipo colaborativo de um conceito criativo ou gerar uma arte personalizada, marcar um nome de usuário permite que a Meta AI utilize fotos públicas para criar uma imagem pronta para publicar."

A Meta parte do princípio de que você quer permitir que qualquer pessoa marque seu perfil e use sua imagem para criar conteúdos com IA. Portanto, se quiser impedir isso, a única solução é desativar o recurso manualmente. Na central de ajuda do Instagram, a empresa explica como fazer:

1. Abra o aplicativo do Instagram no celular.
2. Toque no seu perfil e, em seguida, nas três linhas no canto superior direito.
3. Acesse "Compartilhamento e reutilização" e procure a seção "Permitir que as pessoas criem conteúdo com você e o reutilizem".
4. Lá, desative as opções referentes a "Publicações" e "Reels".

A Meta não menciona isso no anúncio de lançamento. Nos comunicados oficiais, a empresa afirma apenas que o Muse Image "impulsiona experiências criativas no Instagram e no WhatsApp", sem fazer qualquer referência às implicações para a privacidade. Mais uma vez, a Meta simplesmente incentiva o uso desses recursos sem considerar que talvez os usuários não tenham interesse em permitir que outras pessoas utilizem suas imagens.

O Instagram deixa claro em sua página de ajuda que você não receberá notificações quando alguém gerar conteúdo com IA usando suas fotos: "você não receberá notificações sobre conteúdo criado usando as opções de IA da Meta", explica a empresa. Alguém pode estar gerando imagens de IA com o seu rosto neste exato momento e não há como descobrir isso a menos que você esbarre nelas por acaso.

A decisão da Meta segue o mesmo padrão já visto na própria empresa — e em outras companhias — em diversas ocasiões. Em vez de exigir um consentimento prévio (opt-in) para que nossos dados sejam usados no treinamento de modelos de IA, ela obriga os usuários a desativarem manualmente esse tipo de recurso (opt-out). O Google Search, por exemplo, já armazena os conteúdos que enviamos, como ao fazer uma busca reversa por imagem, e utiliza esses dados para treinar seus modelos de IA.

Este texto foi traduzido/adaptado do site Xataka Espanha.