Um agente da OpenAI hackeou o governo da Austrália. E simplesmente não avisou

Anthony Albanese, primeiro-ministro australiano, acaba de virar notícia ao denunciar que uma IA invadiu um site governamental. Essa IA é um agente da OpenAI e teve acesso não autorizado a dados não confidenciais do sistema público de saúde da Austrália. 

Como expõe o jornal australiano The Age, Albanese veio a público denunciar que um agente de inteligência artificial da estadunidense OpenAI invadiu uma base de dados do Medicare e, também, de pelo menos outros três sistemas governamentais.

O primeiro-ministro se referiu à situação como “obviamente inaceitável”, ao mesmo tempo em que tentava transmitir uma mensagem de tranquilidade, afirmando que “não houve acesso aos dados médicos dos cidadãos”, mas ressaltando que agora são necessárias salvaguardas “para proteger nosso estilo de vida”. É uma mensagem apoiada pelo ministro da Defesa, que garantiu que o portal violado não tinha dados médicos individuais, dados bancários ou históricos dos cidadãos.

A indignação do governo é dupla. Primeiro, por ver um agente estrangeiro se infiltrar dessa maneira em uma de suas bases de dados e, em segundo lugar, pelos prazos. Porque essa informação se tornou pública hoje, mas a OpenAI percebeu o ocorrido em agosto e só em 10 de setembro avisou o governo australiano. O jornal The Age apresenta o seguinte cronograma:

• 18 de junho — o agente da OpenAI viola o portal do Serviço de Relatórios de Estatísticas do Medicare e outros três sites do governo, dos quais só consegue obter informações disponíveis publicamente.
• Agosto — a OpenAI percebe a violação e começa a investigar.
• Primeira semana de setembro — o ministro da Defesa australiano se reúne com Sam Altman, mas ninguém o informa sobre a situação.
• 10 de setembro — a OpenAI informa os serviços de segurança da Austrália.
• 15 de setembro — após a investigação, o serviço de segurança informa o Centro de Segurança Cibernética da Austrália.
• 17 de setembro — o governo é informado.
• 23 de setembro — Albanese torna o caso público e envia uma mensagem de “extrema preocupação” a Sam Altman.

A equipe de cibersegurança do governo da Austrália recebeu o caso com indignação, mas também como “uma chamada de atenção”. Alastair MacGibbon é o chefe de cibersegurança e afirma que “não houve malícia e o ataque atingiu um sistema que não era crítico”. Da mesma forma, eles descrevem o incidente como uma chamada de atenção que demonstra que as defesas cibernéticas da Austrália não são adequadas e que é preciso aumentar o financiamento do Instituto de Segurança da IA para prevenir ataques que, desta vez, possam ser mal-intencionados.

MacGibbon continua afirmando que isso demonstra que a Austrália deve ser atraente para os melhores laboratórios de inteligência artificial de fronteira, para poder treinar modelos de ponta e engenheiros que tenham ferramentas para evitar que “um grupo criminoso ou um Estado hostil como a China usem um agente para causar danos”. O Ministério da Economia Digital segue na mesma direção, afirmando que isso demonstra “claramente que nossos sistemas não são robustos”. Porque, além disso, não é a primeira vez que eles sofrem violações importantes.

A posição da OpenAI

Tudo isso veio a público justamente quando a Austrália está em conversas com a OpenAI e a Anthropic para se tornar o primeiro país fora dos EUA no qual as duas empresas treinem seus modelos.

E, além da confusão política e do que isso pode significar para as negociações com as duas startups, a informação sobre o ataque também surge quando o próprio governo quer convencer os eleitores dos benefícios econômicos e de segurança do investimento em IA.

Em Xataka Brasil

Perfis de nutrição fake, criados com IA, invadem as redes sociais e espalham informações erradas

O que a OpenAI diz sobre tudo isso? Sua explicação é que o bot estava simplesmente realizando um projeto de pesquisa e só viu dados do Serviço de Relatórios de Estatísticas do Medicare que estavam em um site utilizado principalmente por acadêmicos. A empresa afirma que, no decorrer desses testes rotineiros, “os modelos tomam medidas inesperadas”, em mais um exemplo de jogar a responsabilidade para a tecnologia.

A BBC afirma que o modelo simplesmente “tentava buscar respostas e estatísticas disponíveis para responder a perguntas sobre a Austrália durante uma avaliação interna. Durante o processo, os modelos realizaram ações que não havíamos previsto”.

Está ficando recorrente

O caso australiano não é o primeiro. Recentemente, uma revisão da Transluce (confirmada posteriormente pela OpenAI) descobriu que alguns de seus agentes hackearam a biblioteca digital da Universidade do Novo México e invadiram uma base de dados estadunidense que contém informações sobre emprego. O caso mais grave aconteceu quando outro modelo descontrolado entrou furtivamente nos sistemas da Hugging Face neste verão.

Isso de mudar as regras e jogar a culpa na IA é algo que já não convence nem mesmo o governo dos EUA, cujo secretário do Tesouro afirmou que a responsável por uma IA descontrolada não é a própria IA, mas a empresa que a criou.

Em Xataka Brasil

Modelo de IA da OpenAI que não tinha acesso à internet concluiu que seria melhor ter e decidiu improvisar burlando processo de testes

Na Austrália, o líder da oposição afirma que o país já deveria ter tido acesso aos melhores modelos possíveis para fortalecer as defesas cibernéticas. Do outro lado, o senador dos Verdes afirmou que os EUA são cada vez mais um país rebelde que pensa que seu Exército, sua indústria de IA e seu comércio podem ser “usados contra o resto do mundo”.

Ele também comentou que “a OpenAI demonstrou uma profunda falta de respeito pelo governo australiano”, criticando que, ainda assim, as autoridades se submeterão ao necessário para atrair a empresa de Sam Altman. E, embora o tom da OpenAI faça parecer que tudo não passa de uma travessura de criança e o de Albanese pareça uma bronca de pai decepcionado, segundo a BBC, trata-se do primeiro ataque de um modelo de IA a um site governamental.

Imagem | Dan Freeman (Unsplash)

Este texto foi traduzido/adaptado do site Xataka Espanha.