Quando o Papa Francisco I apareceu com um impressionante casaco branco de penas, muitos provavelmente acreditaram que a imagem era real. Não era, mas aquela imagem, assim como a da prisão de Donald Trump , deixou uma coisa clara: seria cada vez mais difícil para nós diferenciar entre imagens criadas por IA e aquelas que não foram . Como resolver isso?
Marcas d'água
Entre as soluções possíveis, havia uma bastante óbvia: identificar imagens de IA como geradas por IA. Ou seja: toda vez que alguém pedisse ao ChatGPT uma imagem no estilo do Studio Ghibli ou ao Grok uma de Bill Gates com uma arma , esses modelos de IA teriam que incluir certos metadados no arquivo de imagem. Seria basicamente como "carimbar" essas imagens para que elas possam ser identificadas em caso de dúvida.
É aí que entra o SynthID
Há vários esforços nessa direção, e entre eles está o SynthID. Essa tecnologia de marca d'água foi introduzida em 2023 e, um ano depois, foi oferecida como uma ferramenta gratuita para que qualquer pessoa pudesse implementá-la.
Lute contra os deepfakes
Conforme observado pelos executivos da empresa, desde seu lançamento em 2023, a SynthID colocou marcas d'água em mais de 10 bilhões de imagens, vídeos, arquivos de áudio e texto. Isso os torna identificáveis como gerados por IA, reduzindo assim o potencial de desinformação e atribuição incorreta. Além disso, o Google destaca que os resultados gerados pelo Veo 3, Imagen 4 e Lyria 2 continuarão a ter marcas d'água SynthID.
Chega o detector de conteúdo de IA
A empresa anunciou durante o evento Google I/O 2025 que está lançando o SynthID Detector, um portal de verificação para ajudar usuários a identificar conteúdo gerado por IA. Funciona de forma simples: basta carregar qualquer conteúdo (texto, imagem, vídeo, áudio) e o SynthID Detector identificará se o arquivo inteiro ou apenas uma parte contém SynthID.
Preparando-se para o bom e o ruim da IA
Esse tipo de ferramenta pode ser especialmente útil para artistas e criadores, que podem defender seu trabalho como legítimo, mas, acima de tudo, é uma opção útil que nos ajuda a nos proteger de deepfakes e tentativas de espalhar desinformação.
Mas...
Como mencionamos meses atrás, o SynthID é uma proposta promissora com muitos recursos atraentes, mas tem um problema: (no momento) não é um padrão universal . Aqui, o Google não deve apenas implementá-lo em suas plataformas, mas também chegar a um consenso com o restante das principais empresas de tecnologia para alcançar um sistema único, aberto e interoperável que resolva universalmente o problema da marca d'água.
Ver 0 Comentários