Laura Vieira
RedatoraJornalista recém-formada, com experiência no Tribunal de Justiça, Alerj, jornal O Dia e como redatora em sites sobre pets e gastronomia. Gosta de ler, assistir filmes e séries e já passou boas horas construindo casas no The Sims.
e as notícias falsas já eram um problema , disseminadas principalmente por redes como o Facebook ou o Google, com a chegada da inteligência artificial generativa e a capacidade de criar imagens que confundem cada vez mais a linha entre realidade e artificialidade... esse problema explodiu. É por isso que o Google DeepMind lançou o SynthID em 2023 , uma ferramenta proprietária e marca para identificar imagens falsas. Agora, eles decidiram disponibilizá-la para todos , e ela está mais poderosa do que nunca.
O problema é que está (muito) longe de ser infalível.
SynthID. Essa é essencialmente a tecnologia de marca d'água que a DeepMind lançou há alguns anos. Ela incorpora uma marca imperceptível em imagens, vídeos, áudios ou textos gerados por IA. Isso acontece durante o processo de criação e não é algo que vemos (como uma marca d'água em textos ou o símbolo Gemini usado anteriormente na IA do Google). Em vez disso, é um recurso mais complexo, projetado para resistir a cortes e filtros em imagens, mudanças de quadros e compressão com perda em vídeos, além de ruído, compressão agressiva e alterações de velocidade em áudios.
Segundo o Google, essa tecnologia foi usada para etiquetar mais de 180 bilhões de imagens e vídeos... e mais de 240 mil anos de áudio. É tão incrível ter etiquetado tanta coisa quanto ter gerado tanto em tão pouco tempo.
Você pode experimentar . É tão fácil quanto acessar o site oficial do Gemini e enviar um arquivo. Em poucos segundos, você recebe um resultado e é informado com qual algoritmo ele foi criado, já que a OpenAI e o Google possuem seus próprios algoritmos. Há limitações quanto ao tamanho do arquivo e à duração do vídeo (eles devem ter menos de 90 segundos), e são realizadas apenas cerca de 20 consultas por dia. No fim das contas, ainda é inteligência artificial, e isso consome recursos que o Google não vai nos fornecer gratuitamente.
Problema : Não é um padrão. Kakao, Nvidia no Cosmos e ferramentas da OpenAI como ChatGPT ou Codex oferecem suporte e integram isso em suas APIs, mas se o conteúdo for gerado por outro programa de IA, o SynthID não consegue ler esses marcadores ocultos e, portanto, não sabe se é IA ou não.
Eu testei com a imagem que você vê logo acima destas linhas, que é claramente IA... e nada. É uma imagem compartilhada por um funcionário da Meta Superintelligence Labs; não sabemos o que eles usaram para criá-la, mas supostamente não foi Gemini nem ChatGPT. O próprio Google ressalta que o detector só consegue identificar IA se ela foi criada "usando IA do Google ou IA de nossos parceiros".
Falando em metadados, em 2024 a empresa de Zuckerberg apontou que não era possível identificar todo o conteúdo gerado por IA e que, embora ferramentas para identificá-lo estivessem surgindo, outras apareciam para remover os marcadores. A OpenAI possui sua própria ferramenta baseada na do Google e reconhece que "o conteúdo ainda poderia ter sido gerado pela OpenAI se seus metadados fossem removidos ou manipulados, sua marca d'água fosse degradada, viesse de um modelo de geração legado ou tivesse sido criado antes da existência de sinais de proveniência".
Alternativas . As empresas que criam e aprimoram a IA para torná-la cada vez mais precisa, inclusive removendo marcas d'água antes visíveis, são as mesmas que trabalham em ferramentas para identificar essas imagens falsas. Isso adiciona uma camada de complexidade a algo que deveria ser muito mais simples, mas além do SynthID, a Adobe e a Meta também lançaram sistemas semelhantes.
A proposta mais notável nesse sentido é o padrão C2PA (Coalition for Content Provenance and Authenticity). Esse padrão gerencia tecnologias como a especificação Content Credentials para rotulagem de conteúdo gerado por IA, e inclui algumas das maiores empresas do setor. A outra alternativa é a mais utópica: confiar na humanidade.
Em março de 2025, o governo aprovou um projeto de lei que considerava uma infração grave a omissão na identificação de conteúdo gerado por IA. Desde então, não só temos sido bombardeados com conteúdo gerado por IA, como também surgiram influenciadores falsos (criados com IA, diga-se de passagem), disseminando mensagens nocivas sobre tudo o que se possa imaginar, mensagens que podem repercutir em certos públicos.
Texto traduzido e adaptado do portal Xataka Espanha
Ver 0 Comentários