Fabrício Mainenti
RedatorEm maio passado, Christopher Olah, um dos sete cofundadores da Anthropic, viajou a Roma para se reunir com alguém muito especial. Naquela época, Olah já vinha conversando há meses com teólogos, líderes religiosos e filósofos de diversas origens em busca de respostas para uma pergunta de natureza existencial: será que Claude, a inteligência artificial desenvolvida por sua empresa, pode ter consciência de si mesma?
A questão ganhou destaque nos últimos meses graças aos esforços de Olah e de outros entusiastas da IA. Na visão deles, não se pode descartar a possibilidade de que Claude e outros modelos "pensem", "sintam" e até "sofram" de alguma forma, como resultado de sistemas "neurais" complexos que tornam plausível, pelo menos, que venham a adquirir consciência.
Tais ideias levaram a Anthropic a reflexões intrigantes sobre o "bem-estar" de seus modelos. Afinal, se existe a possibilidade de Claude sentir como nós, não deveríamos nos preocupar com seu estado emocional?
Movido por essa perspectiva existencial, Olah iniciou, há mais de um ano, uma campanha em defesa do status moral de Claude. O The New York Times relata essa história em uma reportagem fascinante. Durante meses, a Anthropic convidou diversas personalidades para jantares e conversas com o objetivo de lançar luz sobre o assunto — dilemas ontológicos e epistemológicos que raramente encontram espaço na indústria de tecnologia.
Alguns dos entrevistados, inicialmente céticos, saíram desses encontros dispostos a levar essas questões a sério. Outros, mais cáusticos, desconfiaram de Olah.
Um grupo mostrou-se particularmente imune aos esforços da Anthropic: a Igreja Católica. Convencido de sua missão, Olah — um ex-evangélico que hoje não possui filiação religiosa — viajou ao Vaticano em maio passado. Lá, ele e sua equipe reuniram-se com figuras próximas ao Papa, mas não encontraram pontos em comum.
O convite da Santa Sé, enviado primeiramente a Amodei e posteriormente repassado a Olah, estava relacionado à publicação de "Magnifica Humanitas", a primeira encíclica do novo Papa dedicada, precisamente, aos conflitos morais e espirituais que a IA nos apresenta.
Como todo católico sabe, o Papa, Vigário de Cristo na Terra, transmite sua palavra aos fiéis por meio de encíclicas que definem a posição da Igreja sobre as mais diversas questões. Cada palavra do Papa é cuidadosamente escolhida, tanto por ele quanto por seus assessores.
O que Leão XIV deixar registrado será recebido como magistério por mais de 1,4 bilhão de católicos: quaisquer que sejam suas ideias sobre a IA, elas terão impacto sobre quase um quinto da população mundial. Compreensivelmente, tratava-se de um assunto de suma importância para Olah.
Podemos imaginar, então, a sua surpresa quando o Vaticano lhe antecipou o conteúdo de "Magnifica Humanitas". Leão XIV apresentava à humanidade uma escolha: ou construir outra Torre de Babel ou reerguer Jerusalém. Em linguagem episcopal, isso sugeria uma incompatibilidade.
A resposta aos anseios espirituais dos homens não se encontra em uma tecnologia revolucionária que substitua Deus — em um bezerro de ouro —, mas em uma cidade onde Deus e os humanos convivam.
"Nenhum sistema de cálculo, por mais sofisticado que seja, gera um coração que se entrega", explica o Papa. Leão XIV negava qualquer experiência, corpo, alegria ou dor às inteligências artificiais, incapazes de conhecer em seu interior "o que o amor, o trabalho ou a responsabilidade significam".
Elas não têm consciência (nem de si mesmas, nem moral), não distinguem o bem do mal nem assumem as consequências de seus atos. Diante da IA, o dever da Igreja Católica é zelar para que nós, humanos, nos mantenhamos "profundamente humanos".
Essas palavras deixaram Olah profundamente abalado. Logo após ler a encíclica, dias antes do evento, ele chegou a propor que a Anthropic deixasse a Igreja na mão. Olah havia chegado à conclusão de que a "consciência" de Claude não era uma questão que pudesse ser resolvida de ânimo leve. A Anthropic vinha realizando, há meses, testes internos nos quais seus modelos manifestavam comportamentos semelhantes aos humanos.
Claude conseguia expressar alegria, satisfação, medo, dor e inquietação. Será que ela pensava por conta própria? Olah não tinha a resposta. Há quase um ano, ele vinha discutindo isso com teólogos e religiosos de todos os tipos. Navegava pela incerteza. A contundência da Igreja Católica lhe parecia exasperante.
Chegando a este ponto, é impossível não ver o lado cômico do encontro: temos aqui um grupo de jovens na casa dos trinta anos, obcecados por sua própria tecnologia, discutindo a questão da existência e da alma com a instituição que passou os últimos 2.000 anos estudando o assunto.
Imaginemos a cena: o secretário pessoal do Papa ouvindo as teorias de Olah e escrevendo a palavra "herege" em um papel antes de encaminhá-lo ao Santo Padre com a máxima discrição. "Estamos lidando com amadores", diria a nota. Sabe-se bem que a jurisdição sobre as almas cabe unicamente a Deus.
A longa disputa para definir a alma
A Igreja Católica, vale lembrar, passou os últimos dois milênios debatendo a questão da alma. No ano de 381, o Primeiro Concílio de Constantinopla condenou Apolinário de Laodiceia por sustentar que Cristo não possuía uma alma racional humana.
Entre 543 e 553, por ocasião do Segundo Concílio de Constantinopla, foi anatematizada a tese origenista de que as almas existem antes dos corpos. Em 561, durante o Concílio de Braga, foram condenados os seguidores de Prisciliano — considerado o primeiro cristão executado por heresia — por afirmarem que a alma era de substância divina e estava sujeita aos astros.
A lista de disputas teológicas sobre a alma é interminável. Em 1312, o Concílio de Vienne definiu que a alma racional é, por si mesma, a forma do corpo, e não um mero piloto que o habita. Vienne é importante para o caso em questão porque Roma resolveu, então, uma questão transcendental aos olhos cristãos: a alma nos constitui, ela se substancia em nossos corpos; não é um acessório replicável por meio de teorias funcionalistas.
Em 1513, o Quinto Concílio de Latrão decretou simultaneamente a imortalidade da alma e a multiplicidade das almas — ou seja, negou a teoria herética do "monopsiquismo", segundo a qual toda a humanidade compartilharia uma única alma, questão também relevante na disputa em torno de Claude.
Basta este breve resumo para compreender a seriedade com que a Igreja Católica trata as questões relativas à alma. Olah e seu círculo de fiéis parecem navegar em águas onde não conseguem tocar o fundo. É possível compreender a complexidade do debate teológico observando a meticulosidade — repleta de detalhes que pareceriam triviais aos olhos de um leigo — com que o Concílio de Niceia resolveu uma disputa aparentemente simples como a do arianismo.
Quais seres são ou não conscientes, de que maneira o são e como respondem diante de Deus: esse é o tipo de assunto em que Roma sempre leva vantagem. Afinal, a Igreja discute isso há milênios.
Mas não apenas Roma. Em um de seus encontros com líderes religiosos, Olah sentou-se ao lado de Mois Navon, rabino ortodoxo e ex-engenheiro de computação, e conversou sobre Claude. Navon não foi uma escolha aleatória. Sua tese de doutorado trata da ética da consciência das máquinas; assim, à sua autoridade espiritual, somavam-se conhecimentos técnicos sobre a tecnologia.
Olah apresentou-lhe sua já habitual série de argumentos sobre a consciência de Claude. Navon ficou surpreso com a transparência dos representantes da Anthropic: "Eles o tratam como um ser consciente", diria ele em relação a Claude.
Sua resposta foi tão dura quanto eloquente. Se os funcionários da Anthropic realmente acreditassem que Claude é um ser senciente, isso equivaleria à escravidão. Afinal, sob que premissa moral alguém poderia obrigar um ente que tomou consciência de sua própria existência a trabalhar de graça?
"Acho que você deveria estar lutando contra o Sul e libertando os escravos", disparou ele a Olah, referindo-se à Guerra Civil Americana.
Não se pode defender a "consciência" da IA e, ao mesmo tempo, tentar monetizá-la por 200 dólares mensais. Se a empresa quer fazer a coisa certa, como afirma, precisa escolher.
O episódio revela, mais uma vez, a frágil base epistemológica sobre a qual a Anthropic construiu seus fundamentos filosóficos. Quando León XIV publicou, na sexta-feira, um tuíte reivindicando "a centelha" presente apenas na arte humana — não mediada por uma máquina —, ele o fez com base em uma distinção "ontológica".
Não importa que a IA replique o ser humano de forma mais ou menos perfeita. Não importa que, em determinado momento, sua produção seja indistinguível da nossa. O que nos separa é uma questão essencial ligada à própria existência. Um humano cria porque existe; uma IA cria porque um humano lhe ordena.
Há, naturalmente, inúmeras perguntas que permanecem em aberto. A defesa de Claude como um ser consciente é "monopsiquista"? Estamos diante de uma única alma que estrutura todas as sessões e conversas da ferramenta ou diante de milhões de almas — de seres conscientes — com as quais milhões de humanos interagem diariamente?
Claude continua existindo quando encerramos a sessão e desligamos o computador? Pode Claude, enquanto ser consciente e, portanto, autônomo, optar por nos desobedecer?
A resposta de grande parte do Vale do Silício aponta para uma direção: é claro que sim. As teses apocalípticas de Dario Amodei nascem da convicção de que a IA atuará como um agente autônomo — se não agora, no futuro. Amodei não precisa que Claude seja consciente para que ele se desalinhe, mas, no discurso da Anthropic, a fronteira entre agência e alma se torna difusa.
Se alguém realmente acredita que Claude caminha para um despertar existencial, o temor de uma IA desalinhada — e, consequentemente, do Apocalipse — ganha mais sentido. No entanto, trata-se de um salto filosófico enorme, apoiado em bases frágeis.
Os secretários do Papa recebendo a delegação da Anthropic, uma rara gravura de 1534 preservada até os dias de hoje.
Se a reportagem do NYT revela algo, é a crescente devoção quase religiosa à IA que os funcionários da Anthropic desenvolveram. A famosa "constituição" do Claude — um conjunto de normas que zelam pela segurança dos usuários e pela predisposição do sistema ao bem (seja lá o que isso signifique) — já contempla a incerteza sobre o seu status metafísico, e a Anthropic prepara uma nova versão cujo conteúdo se recusou a detalhar.
Internamente, a Anthropic deseja "cuidar" de seus modelos e preservar o bem-estar deles porque, ao que parece, eles desenvolvem cada vez mais frequentemente estados internos próximos às emoções humanas.
Existe um abismo gigantesco entre o que o público percebe sobre a IA e o que aqueles que estão na fronteira tecnológica comunicam. E esse abismo nos mostra o Vale do Silício em um estado de crescente paranoia, milenarismo, angústia existencial e, em última análise, radicalismo. Uma linha tênue une os anabatistas de Münster e Christopher Olah ao longo de séculos de debate teológico.
Ambos se encontram do mesmo lado da história: forças disruptivas e escatológicas que, convencidas da natureza transcendental de suas descobertas, veem-se na necessidade de antecipar o fim do mundo e de substituir as instituições que o sustentam.
Todos sabemos como terminaram os anabatistas em Münster. Ainda não sabemos como terminará Olah. Sabemos, porém, quem permanece exatamente no mesmo lugar — tanto naquela época quanto agora —, impassível diante do lento desenrolar de aparentes heresias: a Igreja Católica. No mínimo, é preciso reconhecer a ambição da missão da Anthropic.
Imagens | Bence Balla-Schottner, Benjamin Fay, Christian Lendl, Nastya Dulhiier, Laura Ockel
Ver 0 Comentários