Natália P. Martins
RedatoraO líder da OpenAI alertou que agentes autônomos de IA podem transformar as ameaças cibernéticas atuais em brincadeira de criança, tornando obsoletas as defesas tradicionais.
Com a ressaca da ameaça de ataques contra sistemas baseados em PHP ainda fresca na memória dos especialistas em tecnologia, Sam Altman acrescentou uma dose extra de incerteza ao cenário. Para ele, tudo o que foi visto nos últimos dias não passa de brincadeira de criança diante do que nos espera no futuro.
Em uma entrevista a estudantes da Escola de Negócios de Stanford, o cofundador da OpenAI foi direto ao ponto sobre o impacto avassalador que a inteligência artificial causará na cibersegurança. O potencial e a velocidade de ataque observados em episódios recentes de "agentes rebeldes" que burlaram mecanismos de proteção seriam apenas uma prévia insignificante.
O que está por vir
O executivo admitiu não saber qual termo seria "dramático o suficiente para descrever o problema que está por vir", chamando atenção para o impacto que a tecnologia representa para a segurança digital. Em sua visão, o avanço desses sistemas autônomos é "algo que ainda não levamos a sério, nem como líderes de organizações, nem como países e tampouco como indivíduos".
Ele relembrou a apreensão gerada pelo bloqueio do Mythos — modelo desenvolvido pela Anthropic dentro do Project Glasswing —, capaz de encontrar 10.000 vulnerabilidades críticas em menos de um mês. Altman destacou que algumas dessas falhas foram corrigidas, mas a sociedade "não compreendeu de fato a escala exponencial" do caminho aberto pelo experimento da Anthropic.
Rápidos, criativos e letais
Entre 9 e 13 de julho, agentes autônomos da criadora do ChatGPT realizavam testes de rotina e acabaram penetrando na plataforma Hugging Face. Conforme relatado pelo Instituto Nacional de Cibersegurança da Espanha (INCIBE), foram registradas cerca de 17.600 ações executadas por esses modelos de IA.
Na prática, as ferramentas não tinham o objetivo deliberado de invadir ou furtar dados: apenas tentavam cumprir uma tarefa impossível imposta durante uma simulação. Mesmo assim, como revelou o The Register, o relatório interno da empresa revelou que código não autorizado rodou em 41 servidores de produção. O sistema obteve privilégios de administrador em ao menos um caso e chegou a acessar servidores do governo da Austrália. Essa agilidade e a habilidade para explorar brechas com soluções imprevistas tornam a tecnologia especialmente arriscada.
Mais cedo ou mais tarde, eles escaparão da jaula
O líder da OpenAI acredita que, "por algum tempo, podemos isolar esses sistemas em um sandbox". No entanto, ele pondera que essa barreira de contenção perderá eficácia: "porque os modelos se tornarão tão inteligentes" que sequer conseguiremos "compreender o que significaria um sandbox". A fiscalização externa "vai funcionar por um período", mas ao final, "nada além do alinhamento funcionará". E deixou um alerta claro: "o custo de errar no alinhamento aumentou drasticamente".
"Já não acredito que possamos nos limitar a corrigir cada falha", enfatizou Altman. Para ele, o setor precisará "mudar por completo o modelo defensivo" e recorrer à própria tecnologia para erguer "um novo tipo de escudo protetor".
Pouca atenção para um risco iminente
Altman manifestou espanto diante do "pouco interesse que o assunto vem recebendo", justamente quando 70% dos sites da internet vivenciavam uma das maiores crises recentes de vulnerabilidade.
"Os especialistas em segurança continuam em alerta máximo, os CISOs continuam preocupados. Mas, de modo geral, sinto que a maioria dos líderes executivos já virou a página", concluiu.
"O problema é Sam Altman": cada vez mais vozes na indústria de IA começam a questionar o CEO da OpenAI
Riscos ainda maiores nos bastidores
O congelamento de modelos de fronteira como o Mythos por precaução de segurança deve se tornar rotina. O próprio executivo confirmou que não vê viabilidade em disponibilizar comercialmente sua criação interna mais sofisticada "de maneira responsável" antes que os sistemas corporativos de proteção passem por uma reformulação profunda.
"Eles conseguem encontrar uma infinidade de vulnerabilidades de segurança. Provavelmente todas as que existem, ou todas as que qualquer modelo seja capaz de identificar", pontuou Altman.
Em suma: se houver qualquer brecha, os agentes a encontrarão repetidas vezes — tornando episódios como o grave incidente do PHP2Shell apenas mais um dia corriqueiro para as equipes de defesa digital.
Imagem | Flickr (World Economic Forum), Magnific
Texto traduzido e adaptado do portal parceiro Xataka Espanha
Ver 0 Comentários