Dinamarca tem um plano contra deepfakes: proteger a voz e o rosto de seus cidadãos da inteligência artificial

Uma foto de alguém que se parece com você, mas não é você (como aquela tendência vergonhosa de despir mulheres com o Grok que viralizou no X) ou uma gravação de áudio usando sua voz para um golpe são apenas alguns exemplos comuns hoje em dia de como a inteligência artificial brinca com nossa identidade.

Diversas celebridades já tomaram medidas e usaram marcas registradas para proteger sua imagem e voz: Matthew McConaughey já obteve o registro de suas marcas e Taylor Swift entrou com pedidos de registro, segundo a Forbes. Mas e as pessoas comuns? A Dinamarca apresentou um projeto de lei para tornar ilegal o compartilhamento dessas imitações sem permissão.

Minha imagem e minha voz, meu direito

O que o país nórdico pretende é tornar ilegal a distribuição de imitações digitais realistas da aparência ou da voz de uma pessoa sem o seu consentimento. Como? Com ​​uma reforma da lei de propriedade intelectual que proteja tanto os cidadãos comuns quanto os artistas. Por enquanto, trata-se de um projeto de lei em análise, mas o ministério quer que ele entre em vigor no início de 2027.

Por que isso importa?

O olho humano há muito tempo não é confiável para discernir o que é uma imagem real e o que não é, então, na prática, é muito fácil criar um deepfake e muito difícil reconhecê-lo. Detectores automáticos também não são a solução definitiva: testes mostram que, quando confrontados com deepfakes reais de redes sociais, o desempenho de modelos de código aberto cai em até 50%.

O que a Europa está fazendo em relação aos deepfakes?

Na verdade, toda a UE exige que os deepfakes sejam rotulados desde 2 de agosto de 2026, de acordo com o Artigo 50 da Lei de IA da União Europeia, sob pena de multas de até € 15 milhões ou 3% da receita global. Mas a Dinamarca foi além: concede a todos o direito de optar por não participar.

Não é o único país a adicionar uma camada extra de proteção: a França proíbe o compartilhamento de conteúdo gerado por IA de uma pessoa sem o seu consentimento quando não for óbvio que se trata de conteúdo artificial ou quando não houver indicação de que seja artificial. No Reino Unido, criar ou solicitar deepfakes íntimos sem consentimento é crime desde fevereiro, e o compartilhamento pode acarretar pena de até dois anos de prisão.

Em detalhes

Na verdade, essa reforma criaria dois níveis de proteção: um geral contra imitações digitais realistas de características pessoais e outro específico para artistas e performers. Haverá exceções para caricatura, paródia, sátira e crítica ao poder e à sociedade.

A Ministra da Cultura da Dinamarca, Zenia Stampe, explicou que um dos principais objetivos é que as grandes empresas de tecnologia removam rapidamente o conteúdo manipulado para minimizar os danos. A reforma não regula a criação dessas imitações, mas sim a sua distribuição: o objetivo é restringir a sua circulação.

Lei é aprovada

O fato de esta reforma da lei de propriedade intelectual finalmente entrar em vigor é uma boa notícia para os direitos das pessoas, mas a sua existência não garante a sua eficácia. De fato, a exigência de rotular deepfakes enfrentou o mesmo dilema: seja pelas exceções, seja porque rotular tudo torna o conteúdo praticamente invisível.

Neste caso, a sua eficácia dependerá da rapidez com que a remoção for realizada, mas isso requer primeiro a detecção, e já vimos que isso não é algo que possa ser feito de forma confiável nem por pessoas nem por máquinas. Por outro lado, embora seja uma lei que se aplica dentro do território soberano da Dinamarca, a internet não tem fronteiras.

Imagem | eimoberg

Este conteúdo é uma tradução de material do site parceiro Xataka Espanha.