“Estão brincando com nossas vidas”: pesquisador da Anthropic se demite e denuncia falta de responsabilidade das empresas

Há um número que se tornou viral no Twitter nestes dias: mais de 10%. Essa é a probabilidade que Evan Hubinger, um pesquisador da Anthropic, acredita existir de que a inteligência artificial acabe com todos os humanos durante a próxima década. O comentário respaldou a decisão de Jacob Coxon, um colega seu que acaba de deixar a empresa, denunciando que as empresas de IA estão "brincando com nossas vidas". 

Hubinger, na verdade, argumentava que considerava baixo o risco representado pelos modelos de IA atuais. Para ele, o preocupante é o que pode estar por vir: uma superinteligência criada por autoaperfeiçoamento recursivo, ou, em outras palavras: sistemas de IA que ajudem a criar sistemas de IA ainda melhores.

Para Coxon, que preferiu pedir demissão, os próximos um ou dois anos serão decisivos. Ele pede que tanto a OpenAI quanto a Anthropic não se lancem de cabeça nessa corrida, algo difícil de conseguir quando a IA já está sendo usada para acelerar a pesquisa em IA.

Como a IA irá nos matar?

O The Wall Street Journal divide os cenários de extinção em duas grandes famílias. Uma, mais hollywoodiana, é a perda de controle: um sistema de IA muito mais inteligente poderia ter objetivos incompatíveis com os da humanidade e adquirir capacidade suficiente para impedir que o detenhamos. A outra é menos chamativa, mas igualmente preocupante: continuarmos controlando a IA, mas alguém usá-la para criar um vírus letal, lançar ciberataques ou atacar infraestruturas críticas.

Para chegar aos 10% citados por Hubinger, seria necessário uma série de eventos decisivos. Teríamos de criar sistemas de IA muito superiores a nós, que eles pudessem acelerar o desenvolvimento de seus sucessores, que essa aceleração fosse rápida e que adquirissem autonomia suficiente para que não pudéssemos detê-los. Essa estimativa, por enquanto, é apenas subjetiva, tentando colocar números na incerteza. Esses 10% não foram medidos experimentalmente e seu significado real é nulo porque não há provas nem evidências de que façam sentido. Assim como podem ser 10%, poderiam ser 90% ou 0%.

Mas a preocupação existe. Hubinger não é qualquer um: ele dirige a estratégia de alinhamento da Anthropic, o que significa que é responsável por fazer com que os modelos da empresa trabalhem alinhados com os seres humanos e busquem um objetivo comum e benéfico para a humanidade. Samuel Marks, outro dos executivos da Anthropic, explica que, entre os desenvolvedores, existe uma preocupação real com um potencial desastre, sobretudo entre os veteranos. O fato de Coxon ter renunciado à sua participação econômica na empresa reforça o valor de sua mensagem, mas não significa que sua crença esteja correta.

“As pessoas que estão desenvolvendo a IA acreditam sinceramente que ela pode acabar com todos nós até o final da década. Isso não é uma jogada de marketing. Pelo contrário: muitos executivos e pesquisadores de alto escalão costumam medir as palavras na imprensa para parecerem sensatos — mas ouço essas mesmas pessoas expressarem medo em conversas privadas. Nenhuma outra atividade humana representa esse nível de perigo”, disse Coxon em sua conta no X.

Em uma entrevista à Wired, Coxon afirma que considera a Anthropic mais responsável que a OpenAI em matéria de alinhamento e que não detectou ninguém ali reduzindo esforços em matéria de segurança. Para ele, o problema é que justamente quem reduz esses esforços seja outro: um concorrente como a OpenAI, ou talvez um laboratório de IA chinês. Aqui ele alude ao dilema do prisioneiro: até uma empresa convencida de que deveria frear o desenvolvimento da IA tem incentivos demais para continuar se acreditar que os demais não farão o mesmo.

A China complica as coisas

A preocupação demonstrada por especialistas ocidentais em IA não é um caso isolado: na China existe uma comunidade crescente de especialistas pesquisando sobre a segurança dos agentes de IA, a perda de supervisão humana e o autoaperfeiçoamento recursivo. No relatório State of AI Safety in China 2026, essas preocupações são justamente identificadas e figuras como o vencedor do Prêmio Turing Andrew Yao participam de estratégias de segurança e governança de IA.

Não é habitual que os responsáveis por DeepSeek, Alibaba ou Moonshot falem desses riscos para a humanidade. A preocupação existe, mas sua expressão pública é muito diferente daquela exibida no Vale do Silício.

Em Xataka Brasil

Um estudo nos alerta para algo assustador: a inteligência artificial está moldando nossa identidade sem que sequer percebamos

Coxon acredita justamente que um acordo entre Anthropic e OpenAI seria apenas o primeiro passo para mitigar esses riscos: o ideal seria haver um esforço de cooperação internacional que envolvesse a China. Nessa aliança, por exemplo, deveria ser discutido o controle do poder computacional avançado de forma semelhante à maneira como são tratados os materiais nucleares. É importante observar aqui que EUA e China estão preparando, neste mês, suas primeiras conversas bilaterais centradas na segurança da IA.

Se há tanto risco, por que continuam construindo modelos de IA? A razão é simples: aqueles que levantam esses riscos também veem o outro lado da questão. Coxon fala sobre como a IA pode ajudar a curar doenças, acelerar descobertas científicas ou permitir alcançar uma abundância extraordinária. Além disso, existe entre as empresas de IA a convicção de que, se a superinteligência puder ser criada, alguém acabará fazendo isso, portanto é preferível tentar do que ficar para trás. 

Imagem | Xataka com Magnific

Este texto foi traduzido/adaptado do site Xataka Espanha.