Trailers gerados por IA para Vingadores são indistinguíveis dos reais; no fim das contas, Scorsese estava certo

Recentemente, o YouTube encerrou permanentemente os canais Screen Culture e KH Studio, da Índia e da Geórgia, que juntos acumulavam mais de 2 milhões de inscritos e um bilhão de visualizações. Durante meses, eles produziram trailers gerados por IA convincentes, indistinguíveis de materiais promocionais oficiais.

O fenômeno atingiu proporções epidêmicas com Vingadores: Doutor Destino, onde a fronteira entre o autêntico e o sintético tornou-se praticamente indetectável.

O que aconteceu?

A estratégia da Marvel de exibir quatro teasers exclusivos do filme antes de Avatar: Fogo e Cinzas (um por semana, com foco em personagens diferentes) criou o ambiente perfeito para a confusão. Sem distribuição online oficial, qualquer usuário que quisesse assisti-los tinha que confiar num ecossistema de vazamentos que, como afirma o Kotaku, já estava comprometido há anos.

Em meio a esse vácuo de informações, a inteligência artificial generativa lucrou enormemente: imagens começaram a surgir mostrando o Doutor Destino como um "clone de Stark", clipes supostamente filmados em cinemas e deepfakes com um nível de sofisticação que enganou até os olhos mais experientes.

Cada vez mais sofisticados

Um estudo publicado pela Nature em 2024 revelou que mais de 53% dos humanos podem ser enganados por vídeos alterados digitalmente, enquanto pesquisas acadêmicas recentes apontam que as ferramentas de detecção de deepfakes têm dificuldade em identificar manipulações fora de seus dados de treinamento. Com esse terreno fértil, é normal que haja cada vez mais trailers e imagens falsas, imersos em uma geração contínua de conteúdo desse tipo: nas redes sociais, 71% das imagens são geradas por IA. Estima-se que mais de 10 bilhões de páginas geradas por IA tenham sido publicadas desde 2023.

O paradoxo dessa situação é que a Marvel não precisou da intervenção da IA ​​para se tornar conteúdo sintético. Ela já era.

Quando Martin Scorsese declarou em 2019 que os filmes da Marvel não eram cinema, mas "parques temáticos" onde os atores faziam "o melhor que podiam nessas circunstâncias", ele estava, na verdade, falando sobre as franquias que substituíram o humano pelo algorítmico, que se tornaram produtos de engenharia desprovidos do componente humano que define o cinema. O visionário nisso: aconteceu antes mesmo do ChatGPT entrar em nossas vidas.

Todos sabemos como os filmes da Marvel são feitos, e eles se encaixam perfeitamente na ideia de "filmes feitos por IA antes da IA": artistas de efeitos especiais mudando atos inteiros dois meses antes das estreias, filmes rodados em sets com enormes telas verdes gerando sequências onde 99% do que vemos é digital, propostas diferentes, mas com decisões narrativas (especialmente em suas partes finais) completamente intercambiáveis...

A primeira bagunça

Vamos voltar a 'Homem-Aranha: Sem Volta para Casa' para analisar um dos casos mais marcantes de informação e desinformação desse tipo, com o precedente direto da IA ​​generativa: os deepfakes. Durante meses, imagens supostamente vazadas de Tobey Maguire e Andrew Garfield com os trajes do Homem-Aranha circularam. Garfield negou repetidamente qualquer envolvimento, afirmando que o material era Photoshop.

Um YouTuber então postou um vídeo alegando ter criado um deepfake da filmagem vazada, apenas para depois admitir que seu vídeo era falso e o vídeo original era real.

A Corridor Crew determinou que, se fosse falso, seria "o deepfake mais sofisticado já criado". A Sony aplicou notificações de direitos autorais contra os vazamentos, confirmando implicitamente a autenticidade. Resultado: os fãs passaram seis meses sem saber o que era real, mas mesmo assim o compartilharam.

Estudos sobre diferentes fandoms revelam que a busca por pertencimento impulsiona a disseminação de desinformação tanto quanto a de informações legítimas, algoritmos otimizam com base na popularidade, em vez da qualidade, e métricas de engajamento podem ser manipuladas por comportamentos enganosos: bots, trolls organizados, redes de contas falsas...

O resultado: um mercado de atenção onde a fabricação de conteúdo sintético sobre 'Vingadores: Doutor Destino' gera mais adesão, difusão e popularidade do que se preocupar em verificar sua autenticidade. Mas a IA não criou esse problema: apenas o acelerou a ponto de torná-lo insustentável. E nem estamos falando de questões "sérias", ligadas à política ou à sociedade, onde interesses reais entram em jogo para falsificar o conteúdo, além da mera diversão, mais ou menos vândala, de espalhar um trailer falso.

O fechamento da casa dos trailers falsos

O Screen Culture e o KH Studio foram fechados pelo YouTube após um conflito que começou quando ambos os canais foram desmonetizados em março. Para contornar a situação, eles adicionaram etiquetas como "trailer de fã", "paródia" ou "trailer conceitual" aos seus títulos e recuperaram a monetização. Mas esses avisos desapareceram novamente, e eles continuaram criando 23 versões de trailers falsos para 'Quarteto Fantástico', alguns deles superando os vídeos oficiais nos resultados de busca.

Mas houve uma controvérsia adicional: uma investigação do Deadline sobre o assunto revelou que vários estúdios, como Warner e Sony, solicitaram secretamente ao YouTube que a receita publicitária desses vídeos de IA fosse devolvida a eles, o que coloca a prática não no âmbito da ética, mas sim do lucro. 

O YouTube tolerou a proliferação de conteúdo sintético por anos, inclusive permitindo que os estúdios monetizassem material que enganava seu próprio público, e só parou quando a Disney, dona da Marvel, enviou uma notificação extrajudicial ao Google, proprietário do YouTube.