"Ninguém sabe ao certo o que vai acontecer": Demis Hassabis, vencedor do Prêmio Nobel, alerta para o risco de perder o controle da IA

Pense por um momento em como o mercado de tecnologia se movia antes de novembro de 2022. A inteligência artificial já estava presente em buscadores, câmeras, sistemas de recomendação e serviços digitais, mas ainda não era o rótulo que as empresas tentavam colocar em todos os produtos nem o tema em torno do qual girava boa parte de suas apresentações. A indústria tinha outras prioridades evidentes e dividia sua atenção entre várias frentes. Menos de quatro anos depois, é difícil encontrar um grande fabricante ou uma plataforma que não tenha reorganizado parte de sua estratégia em torno da IA.

Basta observar para onde o dinheiro está fluindo para entender a dimensão dessa corrida. As grandes empresas de tecnologia destinam investimentos gigantescos a chips, servidores e centros de dados espalhados por diferentes partes do mundo, ao mesmo tempo em que buscam garantir a energia necessária para mantê-los em funcionamento.

Os governos também não estão apenas assistindo: EUA e China apoiam o desenvolvimento de infraestrutura e capacidade computacional como parte de uma disputa econômica e estratégica. Em meio a essa aceleração, um de seus principais protagonistas alertou que estamos avançando mais rápido do que nossa capacidade de compreender.

O alerta de quem está na linha de frente dessa corrida

Demis Hassabis é cofundador e CEO do Google DeepMind, um dos laboratórios responsáveis pelo desenvolvimento dos sistemas de inteligência artificial mais avançados. Sob sua liderança surgiram projetos como AlphaGo, que derrotou um campeão mundial de Go, e AlphaFold, capaz de prever estruturas de proteínas. Em 2024, Hassabis e John Jumper dividiram metade do Prêmio Nobel de Química por seus trabalhos sobre previsão de estruturas proteicas.

As palavras desse executivo têm peso justamente por essa dupla condição: ele ajuda a desenvolver a tecnologia e, ao mesmo tempo, defende a criação de mecanismos para conter seus riscos.

Hassabis parte de uma convicção que ajuda a entender a urgência de sua proposta: ele acredita que a inteligência artificial geral (AGI, na sigla em inglês), definida em seu texto como um sistema capaz de exibir todas as capacidades cognitivas do cérebro humano, pode surgir em apenas alguns anos. Ele não apresenta isso como uma certeza, mas como uma possibilidade próxima que exigiria preparação antes que a tecnologia alcance esse estágio. Sua preocupação abrange a cibersegurança, possíveis riscos biológicos e nucleares e, mais adiante, sistemas cada vez mais autônomos, capazes de agir com menor supervisão e de aprimorar suas próprias capacidades.

Em um longo artigo publicado no X, o executivo procura defender duas ideias ao mesmo tempo. A inteligência artificial pode se tornar uma ferramenta extraordinária para a ciência, a medicina e a economia, mas esse potencial não elimina a necessidade de estabelecer controles e mecanismos de supervisão. Tampouco propõe esperar que uma ameaça concreta apareça para só então reagir, porque, nesse caso, as medidas poderiam chegar tarde demais. Antes de detalhar qual organismo e quais avaliações considera necessários, ele apresenta o diagnóstico que serve de base para toda a sua proposta:

"Neste momento, estamos presos em uma corrida comercial e geopolítica extremamente intensa, que ocorre em vários níveis. Embora essas dinâmicas competitivas impulsionem avanços rápidos e acelerem seus extraordinários benefícios, o progresso na fronteira da IA está superando nossa compreensão da tecnologia. Ninguém no mundo sabe ao certo o que vai acontecer daqui para frente e nem mesmo os especialistas concordam entre si. Quando existe um grau tão elevado de incerteza e há tanto em jogo, avançar com um otimismo cauteloso é a estratégia sensata e correta."

A resposta proposta por Hassabis passa pela criação, nos EUA, de um órgão especializado em avaliar os modelos de inteligência artificial mais avançados. Sua proposta toma como referência uma parceria público-privada ou uma entidade autorregulada com supervisão federal, dirigida por um conselho que também incluiria especialistas independentes e representantes do ecossistema de código aberto.

Essa instituição definiria quais critérios caracterizam um sistema como um modelo de fronteira e desenvolveria avaliações sobre cibersegurança, ameaças biológicas e outras áreas de alto risco, além de testes para detectar tentativas de contornar salvaguardas ou indícios de comportamento enganoso. Em uma primeira etapa, os laboratórios compartilhariam voluntariamente seus modelos até 30 dias antes de lançá-los.

Essa cooperação inicial poderia, mais tarde, tornar-se um requisito obrigatório. Uma vez validado o protocolo, qualquer modelo considerado de fronteira teria de ser aprovado na avaliação antes de chegar ao mercado dos EUA. Os testes seriam revisados periodicamente para substituir aqueles que se tornassem obsoletos e para medir novas capacidades, enquanto auditores independentes ajudariam a ampliar o sistema de controle. A proposta vai ainda mais longe: se a gravidade dos riscos justificar, essa estrutura poderá ser usada para coordenar uma desaceleração do desenvolvimento entre os principais laboratórios.

Em Xataka Brasil

As grandes fortunas da Inteligência Artificial: quem é quem entre os novos bilionários da IA

Essa preocupação não é exclusiva de Hassabis. O cientista cognitivo Geoffrey Hinton já reconheceu que não sabemos se seremos capazes de manter o controle sobre sistemas mais inteligentes do que nós, enquanto o especialista em redes neurais Yoshua Bengio defende mais pesquisas e mecanismos específicos para supervisioná-los.

Em 2023, Elon Musk também assinou uma carta aberta pedindo a suspensão, por pelo menos seis meses, do treinamento de sistemas de IA mais poderosos que o GPT-4. Poucos meses depois, no entanto, anunciou a xAI e passou a competir diretamente nesse mercado. Muitas dessas vozes concordam quanto à necessidade de cautela, mas não há consenso sobre a probabilidade de realmente perdermos o controle.

A história da inteligência artificial ainda não tem um desfecho definido, embora seus primeiros impactos já tenham mudado nossa relação com a tecnologia e influenciado as decisões de quem a desenvolve. Resta saber se o órgão proposto por Hassabis teria espaço para existir, se suas avaliações seriam realmente eficazes e se laboratórios e governos aceitariam se submeter a elas quando isso entrasse em conflito com seus próprios interesses. Também é possível que alguns dos riscos apontados por ele estejam superestimados ou simplesmente nunca se concretizem. Por enquanto, sua proposta acrescenta um roteiro concreto a um debate no qual ainda existem muito mais dúvidas do que certezas.

Imagens | Google

Este texto foi traduzido/adaptado do site Xataka Espanha.