O maior problema da IA é que seus criadores não sabem explicar por que ela desenvolve habilidades que não foram projetadas

Uma ideia surpreendente está circulando entre os engenheiros que trabalham com inteligência artificial (IA) e soa quase como uma confissão. Ela foi apresentada por Dario Amodei, diretor-executivo da Anthropic, em um ensaio publicado em abril de 2025, no qual reconheceu que nem mesmo sua equipe compreende plenamente como funcionam seus modelos de IA. Não se trata de um comentário aleatório, embora possa parecer apenas marketing. No fim das contas, o diretor-executivo de uma das empresas de IA mais valiosas do mundo admitiu por escrito que sua equipe não entende completamente o mecanismo interno de seu próprio produto.

O mais revelador é que Amodei não está sozinho. Geoffrey Hinton, vencedor do Prêmio Nobel de Física de 2024 e uma das figuras responsáveis por tornar o aprendizado profundo possível da forma como o conhecemos, disse essencialmente a mesma coisa com outras palavras: ele apenas desenvolveu o algoritmo de aprendizado; o que acontece depois, dentro da máquina, ninguém entende, nem mesmo seu criador. E Chris Olah, cofundador da Anthropic e responsável por sua equipe de interpretabilidade, vem descrevendo há vários anos as redes neurais como uma estrutura sobre a qual os circuitos crescem por conta própria, sem que ninguém os tenha projetado diretamente.

É importante ter em mente que estamos falando de três perfis completamente diferentes: um diretor-executivo com interesses comerciais evidentes, um acadêmico aposentado da indústria e um pesquisador que literalmente vive esse problema no dia a dia. Ainda assim, os três convergem para a mesma ideia, que, inclusive, tem um nome técnico: capacidades emergentes. Tratam-se de habilidades que o modelo não possuía em escalas menores e que surgem de forma repentina à medida que ele aumenta de tamanho, sem que ninguém as tenha programado ou previsto.

Advertência científica ou argumento de venda?

A desconfiança é razoável. A Anthropic construiu boa parte de sua identidade de marca em torno da segurança e da interpretabilidade, em contraste com concorrentes como a OpenAI e a Google DeepMind, que priorizam a rápida implementação de seus modelos. O fato de seu diretor-executivo publicar um ensaio alarmista sobre o quanto ainda entendemos pouco a respeito da IA, quando a empresa há anos vende a promessa de agir com extremo cuidado no desenvolvimento de seus modelos, se encaixa perfeitamente em uma narrativa comercial: quanto mais misteriosa e poderosa parecer a criatura, mais valiosa se torna a empresa que afirma estar conseguindo domesticá-la.

Em Xataka Brasil

"A menos que vejamos esse crescimento econômico amplo, essa história não vai terminar bem": Satya Nadella sobre a bolha da IA

No entanto, essa interpretação começa a perder força quando aplicada a Hinton. O cientista deixou o Google em 2023 justamente para poder falar sem as limitações impostas por um vínculo empregatício, não recebe remuneração de nenhuma empresa de IA generativa e seu discurso público é consistentemente mais pessimista do que o de qualquer executivo do setor. Ele não tem nenhum produto para vender nem precisa justificar qualquer rodada de investimentos. Se tudo isso fosse apenas marketing, seria um marketing que não beneficia ninguém em particular — muito menos ele.

Por outro lado, não devemos ignorar o trabalho de Chris Olah, cuja contribuição não consiste em fazer declarações, mas em publicar artigos científicos. Os circuitos de indução, os saltos de aprendizado que surgem repentinamente durante o treinamento e os milhões de características monossêmicas extraídas do Claude 3 Sonnet: tudo isso é evidência técnica acumulada ao longo de anos, e não uma frase solta em uma entrevista.

Quando Olah descreve o interior de um modelo como matrizes compostas por bilhões de números das quais ainda não entendemos completamente como emergem tarefas cognitivas, ele não está tentando vender nada. Está descrevendo, com evidente frustração, o estado real de um campo que ele próprio ajudou a fundar.

Em Xataka Brasil

"Ninguém sabe ao certo o que vai acontecer": Demis Hassabis, vencedor do Prêmio Nobel, alerta para o risco de perder o controle da IA

Por isso, a explicação mais plausível não é a conspiratória, mas a mais incômoda das duas: provavelmente é verdade. As pessoas que estão desenvolvendo os modelos de IA mais avançados do mundo parecem não ter um entendimento preciso de como e por que esses sistemas adquirem capacidades para as quais ninguém os projetou explicitamente.

Em outras palavras, a convergência entre um executivo que teria incentivos para exagerar o problema, um acadêmico sem qualquer interesse comercial e um pesquisador que há uma década documenta esse fenômeno empiricamente aponta menos para uma campanha coordenada e mais para um consenso desconfortável dentro do próprio campo.

A pergunta que permanece, então, não é se estão nos vendendo uma ilusão. É o que acontece quando continuamos ampliando a escala de sistemas cujo funcionamento interno ainda não conseguimos explicar completamente, enquanto a indústria admite que está avançando mais rápido do que consegue compreender.

Imagem | TechCrunch | Arthur Petron (processadas com ChatGPT)

Este texto foi traduzido/adaptado do site Xataka Espanha.