EUA e China criam força-tarefa para conseguir conter IA caso ela saia do controle

Imaginemos que um modelo de inteligência artificial (IA) muito avançado consiga, de forma autônoma, interferir na rede de comando nuclear de uma grande potência, como os EUA ou a China, ou lançar um ataque cibernético contra ela, fazendo-a acreditar que a agressão partiu da outra superpotência. Nessas circunstâncias, Washington e Pequim teriam apenas alguns minutos para decidir se o ataque realmente partiu da outra nação.

Um acontecimento como esse colocaria o mundo à beira do abismo. Já vimos esse cenário muitas vezes no cinema, mas o vertiginoso avanço da IA fez com que os especialistas o considerassem uma possibilidade muito real. A agência Reuters confirmou que especialistas dos EUA e da China já estão trabalhando em conjunto para encontrar a forma adequada de resolver com sucesso um cenário como o que descrevemos no parágrafo anterior.

Um grupo de analistas provenientes tanto dos EUA quanto da China está encarregado de analisar os riscos e propor soluções. E, presumivelmente, no próximo dia 24 de setembro, Donald Trump e Xi Jinping falarão sobre esse assunto na reunião que realizarão na Casa Branca, em Washington (EUA). 

Algumas soluções já foram propostas

Em 9 de setembro, os especialistas chineses e estadunidenses que estão assessorando seus respectivos governos publicaram um artigo conjunto no qual apresentam algumas das medidas que podem ser implementadas para evitar que um modelo de IA “rebelde” desencadeie um conflito entre os EUA e a China. Os autores desse relatório são Melanie Sisson, pesquisadora sênior da Brookings Institution (EUA), e Tianjiao Jiang, professor associado da Universidade de Fudan (China).

Em Xataka Brasil

"Ninguém sabe ao certo o que vai acontecer": Demis Hassabis, vencedor do Prêmio Nobel, alerta para o risco de perder o controle da IA

O grupo de assessores liderado por Sisson e Jiang propõe estabelecer linhas vermelhas em torno dos sistemas nucleares dos EUA e da China, além de manter protocolos de controle humano sobre ataques cibernéticos que tenham consequências graves e criar uma linha de comunicação militar direta e exclusiva entre os EUA e a China para lidar com qualquer incidente relacionado à IA. Essas medidas são claramente inspiradas em alguns dos protocolos estabelecidos pela União Soviética e pelos EUA durante a Guerra Fria para lidar com um possível incidente nuclear.

Segundo esses especialistas, o maior risco está na possibilidade de a IA defensiva de um país responder automaticamente a uma atividade suspeita e a outra nação interpretar essa resposta como um ataque e retaliar antes de entender o que realmente aconteceu. A linha direta mencionada no parágrafo anterior permitiria que os dois governos conversassem antes de iniciar qualquer retaliação e esclarecessem o ocorrido sem desencadear uma escalada de consequências imprevisíveis.

Em Xataka Brasil

“Estão brincando com nossas vidas”: pesquisador da Anthropic se demite e denuncia falta de responsabilidade das empresas

Curiosamente, nem todos os especialistas concordam que a estratégia proposta por Sisson e Jiang seja adequada. Lora Saalman, pesquisadora sênior do Instituto Internacional de Pesquisa para a Paz de Estocolmo (Suécia), acredita que essa medida de convergência entre os EUA e a China é necessária. No entanto, Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins (EUA), questiona a utilidade real dos canais de diálogo que essas duas superpotências estão estabelecendo no âmbito dos desafios relacionados à IA.

Imagem | U.S. Air Force photo by Staff Sgt. Michael A. Richmond

Este texto foi traduzido/adaptado do site Xataka Espanha.