A polêmica da IA na matemática: resolver problemas tão complexos que os humanos não sabem dizer se ela acertou ou não

Os modelos de IA já provaram que conseguem resolver problemas matemáticos que permaneciam sem solução há décadas. Mas o que acontece se nenhum matemático humano realmente entender como eles chegaram à solução? Essa é a possibilidade levantada por Terence Tao durante uma conferência recente realizada na Filadélfia. Segundo ele, "estamos muito, muito perto de que um importante resultado matemático seja demonstrado e verificado sem que nenhum ser humano consiga compreendê-lo e explicá-lo". 

Há três anos, falávamos que a IA representava o fim da lição de casa, mas também de como ela falhava em operações aritméticas elementares. As coisas, é claro, mudaram rapidamente. Depois de superar seus adversários nas Olimpíadas de Matemática, os modelos passaram a resolver problemas extremamente complexos que mantinham matemáticos presos havia décadas. A trajetória dessa tecnologia é inegável e aponta para um futuro inquietante, no qual a IA dominará a matemática da mesma forma que acabou dominando o xadrez.

Um jornalista especializado em IA, Kai Williams, entrevistou vários matemáticos na já citada conferência da Filadélfia e conseguiu obter suas impressões. Um deles é Jacob Tsimerman, recente vencedor da Medalha Fields e que acaba de ser contratado pela OpenAI. Segundo ele, a IA em breve será "robustamente sobre-humana" no campo da matemática. Yu Deng, outra medalhista, foi um pouco mais otimista e apontou que serão os humanos que criarão teorias e ideias, enquanto as máquinas ficarão responsáveis pelos detalhes técnicos.

Por enquanto, um copiloto

Atualmente, o uso cotidiano que os matemáticos fazem da IA é bem menos apocalíptico. Eles a utilizam, por exemplo, para consultar bibliografias pouco conhecidas, buscar exemplos difíceis de construir ou revisar rascunhos. Terence Tao descreveu essa mudança em sua forma de trabalhar, e seu trabalho com Tanya Klowden defende essa visão de que a IA deve auxiliar e ampliar o pensamento humano, e não substituí-lo.

Já existem linguagens criadas especificamente para esse propósito, como a Lean, transformando argumentos matemáticos em objetos que um computador pode validar. Isso permite saber se, dadas determinadas premissas, uma conclusão específica é obtida, mesmo quando a demonstração é especialmente extensa ou complexa. A Lean quase "compila" demonstrações matemáticas, mas não serve para explicar por que faz isso. Ou seja: ela valida que uma demonstração matemática funciona, mas não ajuda a entender como e por que aquela solução é válida.

Em Xataka Brasil

Quando a China apostou todas as fichas em robótica e IA, tinha outro objetivo em mente: conquistar a biotecnologia

Recentemente, a OpenAI publicou um post no qual indicava como seus modelos mais avançados conseguiram resolver ou impulsionar a solução de dez problemas matemáticos extremamente complexos. A revisão oficial e da comunidade de especialistas revelou que pelo menos uma das dez demonstrações estava errada, fazendo os responsáveis pela OpenAI admitirem que o processo não havia sido tão controlado quanto gostariam. Isso deixou claro que uma coisa é criar uma demonstração matemática convincente e outra, bem diferente, é estabelecer sua validade.

Os matemáticos não aprendem a disciplina trabalhando nas conjecturas de Erdos ou nos grandes problemas do milênio. Eles se formam tentando encontrar soluções para problemas "administráveis", cometendo erros e construindo aos poucos sua própria intuição matemática. Se a IA absorver esse trabalho intermediário, pode desaparecer a forma como uma pessoa se torna pesquisadora nessa área. E, se governos e instituições acreditarem que a IA pode substituir os matemáticos, poderão reduzir o apoio a universidades ou grupos de pesquisa.

As matemáticas de Babel

Um dos matemáticos entrevistados, Timothy Gowers, afirma que essa trajetória pode fazer com que, no futuro, tenhamos uma literatura matemática gigantesca, mas com pouquíssimos especialistas humanos capazes de compartilhar ou compreender seu significado. Assim, poderíamos ter milhares ou milhões de resultados formais que ninguém conhece o suficiente para utilizar. Seria como produzir matemática em ritmo frenético, mas compreender apenas uma fração mínima dessas demonstrações.

Em Xataka Brasil

A Geração Z não está mais debatendo se deve usar IA no trabalho, mas se deve se especializar ou se tornar um "nerd de uso geral"

O professor da Universidade de Toronto, Daniel Litt, defende a criação de uma biblioteca com demonstrações de todos os teoremas, mas na qual também fossem adicionados guias que permitissem explicar essas respostas passo a passo. Nesse caso, a IA não acabaria com a matemática, mas transformaria cada solução encontrada em um novo objeto de estudo. Ela nos ajudaria a compreendê-las.

A tentativa mais clara de formular uma resposta humana ao impacto da IA na matemática é a chamada Declaração de Leiden, que inclui "valores característicos da pesquisa matemática" que seria recomendável preservar. Por exemplo, a autonomia intelectual, a atribuição, a diversidade de métodos e a transparência. A Nature Machine Intelligence resumiu o debate atual: os avanços estão transformando a matemática e cabe à comunidade decidir quais valores não quer delegar.

Imagem | Vitaly Gariev (Unsplash)

Este texto foi traduzido/adaptado do site Xataka Espanha.