Fabrício Mainenti
RedatorNo dia 12 de setembro, Dario Amodei, diretor-geral da Anthropic, publicou um de seus ensaios mais controversos. Intitulado "Devemos definir o ritmo da fronteira" (We Must Pace the Frontier), o texto defende a necessidade de desacelerar o desenvolvimento de modelos de inteligência artificial (IA) de fronteira, com o objetivo de garantir seu alinhamento adequado aos interesses humanos e minimizar, tanto quanto possível, os riscos decorrentes do aprimoramento das IAs mais avançadas.
Este trecho de seu artigo é particularmente esclarecedor: "Desde este verão, a IA tem avançado muito mais rapidamente, impulsionada, sobretudo, por sua crescente capacidade de desenvolver a próxima geração de modelos. Essa dinâmica é chamada de 'autoaperfeiçoamento recursivo' e está começando a ocorrer em toda a indústria, inclusive na Anthropic".
Podemos entender o autoaperfeiçoamento recursivo como a capacidade de um modelo de linguagem desenvolver, de forma autônoma, novos modelos mais avançados do que ele próprio.
Depreende-se das palavras de Amodei que os modelos mais avançados da Anthropic e de outros laboratórios já estão participando do desenvolvimento de novos modelos de linguagem mais capazes — embora, até o momento, nenhuma dessas empresas tenha demonstrado publicamente que um de seus modelos tenha alcançado o autoaperfeiçoamento recursivo em sentido estrito.
No entanto, acaba de ocorrer uma reviravolta inesperada: um grupo de pesquisadores do MIT (Instituto de Tecnologia de Massachusetts) demonstrou que o GPT-6 Astra conseguiu modificar diretamente o funcionamento de outra IA.
O que o Astra realmente conseguiu fazer e o que isso significa
Pesquisadores do Laboratório de Inteligência Artificial e Ciência da Computação do MIT constataram que o GPT-6 Astra, modelo de IA da OpenAI, é capaz de modificar diretamente os parâmetros internos de outra rede neural para aprimorar seu comportamento.
Curiosamente, esses cientistas realizaram o experimento utilizando o Qwen3.5-0.8B, um modelo de linguagem com 800 milhões de parâmetros desenvolvido pela empresa chinesa Alibaba. O que a Astra conseguiu fazer foi melhorar significativamente o desempenho em operações matemáticas, manipulando apenas 0,016% dos seus parâmetros.
Como explicam os pesquisadores do MIT em seu artigo, é impressionante que a Astra tenha conseguido melhorar tanto o desempenho do Qwen3.5-0.8B em matemática realizando uma modificação tão modesta. Além disso, é surpreendente que essa melhoria tenha sido possível sem recorrer a um novo processo de treinamento do modelo.
O que a Astra fez foi, simplesmente, modificar o valor dos pesos do Qwen. Para entender por que isso é importante, vale a pena rever o que são os pesos em um modelo de IA.
Os grandes modelos de linguagem são excelentes em reconhecer padrões. De fato, essa capacidade está no cerne do seu funcionamento e é viabilizada por bilhões de parâmetros numéricos — incluindo os pesos — que o modelo ajusta durante o treinamento. Uma IA é uma rede gigantesca composta por bilhões de pequenas conexões.
Durante o processo de treinamento, a IA analisa uma quantidade imensa de informações e ajusta essas conexões para aprender a identificar padrões.
O valor numérico de cada uma dessas conexões determina o quanto ela influencia o comportamento do modelo. Esses valores são os pesos. Em vez de realizar um novo treinamento do Qwen, a Astra identificou um problema no seu funcionamento e manipulou diretamente os valores numéricos que o causavam.
Trata-se de uma estratégia inédita no contexto de uma IA, que abre um novo caminho para acelerar o desenvolvimento de novos modelos — embora não estejamos falando, aqui, da "autoaprimoramento recursivo" mencionado anteriormente. Pelo menos, não no sentido estrito do termo.
O fato de os pesquisadores em laboratórios de IA contarem com mais uma ferramenta em seu arsenal para refinar seus modelos de ponta é uma excelente notícia.
A possibilidade de um modelo de IA intervir diretamente em outras redes neurais tem o potencial de acelerar a pesquisa científica, corrigir problemas que, até então, exigiam processos de treinamento extremamente longos, e facilitar o desenvolvimento de modelos mais eficientes. No entanto, esse cenário também traz riscos.
Se os modelos de linguagem mais avançados passarem a intervir, de forma mais autônoma, em seus próprios componentes ou em outros modelos, os laboratórios de IA precisarão encontrar meios de garantir que essas modificações não desencadeiem erros, vulnerabilidades difíceis de localizar ou comportamentos anômalos.
Além disso, se as melhorias se acumularem ao longo de sucessivas gerações de modelos de IA, corremos o risco de tornar muito mais complexa a avaliação e o controle da evolução dos modelos de fronteira.
Imagem de capa | Ruth Gledhill
Texto traduzido e adaptado do portal parceiro Xataka Espanha
Ver 0 Comentários