Victor Bianchin
RedatorVictor Bianchin é jornalista.
Estamos acostumados a pensar que quem constrói algo sabe explicar como aquilo funciona por dentro. Um motor, um processador, um software: podem existir complexidades, várias camadas e decisões técnicas difíceis de acompanhar, mas há uma arquitetura projetada, um esquema, uma lógica que seus criadores conseguem reconstruir. Com a inteligência artificial generativa, porém, acontece algo bem diferente. Criamos modelos cada vez mais capazes, confiamos a eles tarefas cada vez mais delicadas e, ainda assim, continuamos sem entender completamente o que acontece em seu interior quando raciocinam, tomam decisões ou processam informações que nunca chegam a aparecer na resposta final.
A Anthropic acaba de dar um nome a parte desse problema. Em um estudo publicado há poucas horas, a empresa afirma ter identificado no Claude um pequeno espaço interno, formado por padrões neurais, que o modelo pode ativar para representar conceitos antes de expressá-los em texto — ou até mesmo sem que eles apareçam na resposta final.
A companhia chama esse mecanismo de J-space e o relaciona a um conceito emprestado da neurociência e da filosofia: o acesso consciente. Em uma publicação na rede social X, a Anthropic resumiu essa descoberta em uma frase: "Claude desenvolveu um mecanismo para o acesso consciente".
Uma lousa interna para pensar sem escrever
Para entender a ideia, é preciso separá-la daquilo que normalmente associamos a um chatbot. Quando o Claude responde, nós vemos apenas o texto: uma frase, uma explicação, uma lista ou uma decisão expressa em palavras. O J-space, segundo a Anthropic, está antes — ou abaixo — dessa camada visível. Trata-se de um conjunto de ativações internas em que certos conceitos podem estar presentes sem jamais se transformarem em uma resposta.
O mais surpreendente não é apenas a afirmação de que esse espaço foi encontrado, mas a forma como ele teria surgido. Segundo a empresa, "o J-space não foi projetado nem programado por nós; ele surgiu espontaneamente durante o processo de treinamento do Claude". Essa afirmação muda a perspectiva: não estamos falando de uma função adicionada manualmente para que o modelo "pense" melhor, mas de uma organização interna que teria emergido enquanto o Claude aprendia a prever palavras, responder perguntas e atuar como assistente. Nesse caso, a caixa-preta não apenas esconde processos internos; ela também parece ter organizado parte de seu funcionamento de uma maneira que nunca foi explicitamente projetada.
O avanço metodológico está no fato de que a Anthropic não se limita a observar a resposta final do Claude, mas tenta acompanhar o que acontece antes dela. Para isso, utiliza o J-lens, uma técnica que identifica padrões internos associados a palavras que o modelo poderá usar posteriormente. Quando essa "lente" é aplicada durante o processamento, os pesquisadores conseguem observar como determinados conceitos surgem, mudam ou desaparecem antes de o Claude responder.
Em um dos experimentos, o Claude pensa silenciosamente em um esporte e o J-lens identifica o conceito "soccer" (futebol). Os pesquisadores então substituem esse padrão por "rugby" e o modelo acaba respondendo "rugby". Em outro teste, eles trocam "spider" (aranha) por "ant" (formiga) durante uma pergunta sobre o número de patas do animal que tece teias, e a resposta muda de 8 para 6. Para a Anthropic, esses resultados indicam que o J-space não seria apenas um marcador passivo, mas um componente que participa ativamente do raciocínio em algumas respostas.
Pensando igual humanos?
A Anthropic também testou algo mais próximo da nossa experiência cotidiana: pensar em uma coisa enquanto fazemos outra. Em um experimento, pediu ao Claude que copiasse uma frase sobre uma pintura enquanto se concentrava em frutas cítricas. O texto gerado continha apenas a frase copiada, mas o J-space registrava os conceitos "orange" (laranja) e "fruits" (frutas). Em outro teste, o modelo foi instruído a resolver mentalmente a operação 3² − 2 enquanto realizava a mesma tarefa, e a lente mostrou primeiro "nine" (nove) e depois "seven" (sete). Em outro experimento, quando os pesquisadores pediram ao Claude que não pensasse em determinado conceito, esse conceito ainda apareceu parcialmente, frequentemente acompanhado das palavras "damn" (maldita seja) e "failure" (fracasso), como se o sistema detectasse essa falha de controle.
O próprio texto da Anthropic apresenta uma ressalva importante: o J-space não está por trás de tudo o que o Claude faz. Segundo a empresa, quando impediram o modelo de usar esse espaço, o Claude continuou conversando com fluidez, classificando sentimentos, respondendo perguntas de múltipla escolha e extraindo dados de textos quase como antes. O que piorou foram tarefas mais complexas, como raciocínio em várias etapas, resumos ou a criação de poesias com rimas.
A Anthropic afirma isso de forma explícita: "Nossos experimentos não demonstram que o Claude possa ter experiências ou sentir as coisas como os humanos" e acrescenta que não está claro se algum experimento seria capaz de provar algo assim. A empresa usa o termo “acesso consciente” em um sentido funcional: pensamentos que o modelo consegue relatar, utilizar para raciocinar e empregar para orientar suas ações.
Não é algo insignificante, mas também não significa que o Claude tenha uma vida interior. A brecha na caixa-preta está aberta: ela não resolve o debate sobre a consciência na IA, mas oferece uma nova maneira de observar e, talvez, moldar parte do que acontece dentro desses sistemas.
Imagens | Anthropic
Este texto foi traduzido/adaptado do site Xataka Espanha.
Ver 0 Comentários