Fabrício Mainenti
RedatorEste cenário é assustador. Imaginemos que um modelo de inteligência artificial (IA) muito avançado consiga, de forma autônoma, interferir na rede de comando nuclear de uma grande potência, como os EUA ou a China, ou lançar um ataque cibernético contra ela, levando-a a acreditar que a agressão provém da outra superpotência.
Nessas circunstâncias, Washington e Pequim teriam apenas alguns minutos para decidir se o ataque realmente parte da outra nação.
Um evento como esse colocaria o mundo à beira do abismo. Já vimos esse cenário muitas vezes no cinema, mas o avanço vertiginoso da IA fez com que especialistas passassem a considerá-lo uma possibilidade muito real. De fato, a Reuters confirmou que especialistas dos EUA e da China já estão trabalhando em conjunto para encontrar a maneira adequada de lidar com sucesso com esse cenário descrito no parágrafo anterior.
Um grupo de analistas dos EUA e da China está encarregado de analisar os riscos e propor soluções. Presumivelmente, no próximo dia 24 de setembro, Donald Trump e Xi Jinping discutirão esse assunto na reunião que realizarão na Casa Branca, em Washington (EUA).
Tudo isso é aterrorizante, e está acontecendo. Seja como for, o fato de os governos das duas nações mais poderosas do planeta estarem levando essa possibilidade a sério e tentando implementar protocolos para resolvê-la, caso venha a ocorrer, é uma boa notícia.
Algumas soluções já estão sendo consideradas
No dia 9 de setembro, especialistas chineses e americanos que assessoram seus respectivos governos publicaram um artigo conjunto no qual expõem algumas das medidas que podem ser implementadas para evitar que um modelo de IA "rebelde" desencadeie um conflito entre os EUA e a China.
Os autores deste relatório são Melanie Sisson, pesquisadora sênior da Brookings Institution (EUA), e Tianjiao Jiang, professor associado da Universidade de Fudan (China).
O grupo de consultores liderado por Sisson e Jiang propõe estabelecer linhas vermelhas em torno dos sistemas nucleares dos EUA e da China, bem como manter protocolos de controle humano sobre ciberataques com consequências graves e criar uma linha de comunicação militar direta e dedicada entre os dois países para lidar com qualquer incidente relacionado à IA.
Essas medidas são claramente inspiradas em alguns dos protocolos estabelecidos pela União Soviética e pelos EUA durante a Guerra Fria para lidar com um possível incidente nuclear.
Segundo esses especialistas, o maior risco reside na possibilidade de que a IA defensiva de um país responda automaticamente a uma atividade suspeita e a outra nação interprete essa resposta como um ataque, reagindo antes de compreender o que realmente aconteceu.
A linha direta mencionada no parágrafo anterior permitiria aos dois governos dialogar antes de iniciar qualquer represália e esclarecer o ocorrido, sem desencadear uma escalada de consequências imprevisíveis.
Curiosamente, nem todos os especialistas concordam que a estratégia proposta por Sisson e Jiang seja a mais adequada. Lora Saalman, pesquisadora sênior do Instituto Internacional de Pesquisa para a Paz de Estocolmo (Suécia), acredita que essa medida de convergência entre EUA e China é necessária.
No entanto, Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins (EUA), questiona a utilidade real dos canais de diálogo que essas duas superpotências estão estabelecendo no âmbito dos desafios ligados à IA. Que possamos confiar, para o bem de todos, que os EUA e a China farão a coisa certa.
Imagem de capa | U.S. Air Force photo by Staff Sgt. Michael A. Richmond
Ver 0 Comentários