China possui novo "cérebro de IA": a tecnologia necessária para espionar e tomar decisões militares a partir do céu

A Inteligência Artificial (IA) traz muitos benefícios, mas também muitos riscos. Portanto, eliminar a supervisão humana pode ser uma péssima ideia. Este é um tema recorrente que ressurgiu após a China anunciar que está testando o uso de IA para aprimorar seus sistemas de vigilância por satélite.

Muitos especialistas expressaram preocupação com a possibilidade de esses sistemas serem usados ​​para fins militares. Outros países, como os Estados Unidos e Israel, criaram um precedente preocupante, gerando certo temor de que essas tecnologias possam ser mal utilizadas e acabar sendo letais.

As medidas da China

Há muito tempo, a China insiste na importância da supervisão humana para a IA. No entanto, o anúncio divulgado por veículos como o Interesting Engineering parte de uma premissa diferente. O país asiático pretende que seus sistemas de IA baseados em satélite sejam capazes de decompor tarefas complexas, coordenar fluxos de trabalho e se recuperar de forma independente de possíveis falhas.

Em resumo, eles usariam algoritmos capazes de analisar informações, tomar decisões e agir sem intervenção humana. A observação por satélite pode ter muitas aplicações, desde a análise do comportamento animal até o auxílio na previsão do tempo. Contudo, essa ênfase em permitir que a IA aja de forma autônoma inevitavelmente remete ao que já vemos nos Estados Unidos para fins militares.

O caso dos Estados Unidos

Suspeita-se que as forças armadas dos EUA possuam diversos sistemas de mira baseados em IA, embora muitas informações sobre o assunto permaneçam classificadas. De forma geral, esses sistemas utilizariam dados obtidos por meio de câmeras ópticas e infravermelhas, radar, LIDAR e outros sensores para localizar alvos militares e, posteriormente, disparar se considerado necessário. Em fevereiro passado, o ataque a uma escola, posteriormente classificado como um ataque equivocado, reacendeu o debate sobre o assunto. 175 pessoas morreram no ataque, a maioria crianças. Desde que foi reconhecido como um ataque equivocado, as suspeitas sobre o possível envolvimento de IA aumentaram. Como a informação é classificada, não se pode ter certeza, mas é um risco muito real.

Os Estados Unidos contrataram recentemente a SpaceX para melhorar a conectividade dos artilheiros, para que recebam informações o mais rápido possível sobre se devem ou não disparar. Claramente, eles querem continuar avançando nessa área, e isso é compreensivelmente uma grande preocupação para os especialistas.

O caso de Israel

Não é exatamente a mesma coisa, mas Israel também confiou decisões militares à IA, com resultados preocupantes. Por exemplo, eles possuem um sistema que utiliza dados de chamadas telefônicas, redes sociais, metadados, informações visuais e contatos, entre outras fontes, para determinar alvos potenciais. De acordo com uma investigação da +972 Magazine, nas primeiras semanas da guerra contra a Palestina, o sistema identificou 37 mil alvos como membros do Hamas. O próprio exército reconheceu que o algoritmo tem uma taxa de precisão de 90%. Isso nos dá uma ideia do quão catastrófico isso poderia ser.

Mais transparência?

A China declarou que será mais transparente do que outros países ao introduzir IA na operação de seus satélites. No entanto, isso não diminui as preocupações dos especialistas. Por enquanto, parece que os algoritmos conseguiram superar obstáculos de forma independente durante a fase de testes. Ainda há um longo caminho a percorrer antes que sejam capazes de disparar mísseis, caso venham a ser usados ​​para esse fim. Mas é viável. Portanto, é urgente que sejam tomadas medidas para regulamentar o uso da IA ​​sem supervisão humana, tanto quanto possível.

Existem muitos humanos inescrupulosos, mas até eles podem ter mais escrúpulos do que as máquinas. Uma IA não consegue demonstrar preocupação, consciência ou ética. Tampouco questiona antes de disparar, a menos que seja instruída a fazê-lo. Portanto, se quisermos que ela opere satélites capazes de observar e controlar nossas atividades no planeta, seria aconselhável garantir que alguém com escrúpulos permaneça no comando. Embora, em alguns contextos, isso possa ser difícil de encontrar.

Imagem | Kevin Stadnyk (Unsplash)/Magnific