'É como dar mísseis balísticos a qualquer um': JPMorgan faz alerta sobre novo risco da IA ter multiplicado em 10x

Talvez o nome de Jamie Dimon não lhe seja familiar, mas ele é o CEO de um dos maiores bancos do mundo: o JPMorgan Chase. Em uma entrevista recente à Bloomberg, Dimon reforçou a mensagem de que a era da IA vai trazer mais de uma dor de cabeça em vários sentidos e se concentrou na cibersegurança, afirmando que o risco se multiplicou por 10 desde a chegada do Mythos.

E, com os agentes de IA, a situação só tende a piorar.

Dimon vem alertando há meses que a cibersegurança como a conhecíamos não tem condições de enfrentar as novas inteligências artificiais, mas apresentou esse número justamente após a chegada do Mythos, o modelo da Anthropic. Segundo ele, isso já o preocupava, mas agora estão sendo criadas vulnerabilidades até então desconhecidas e, com os agentes de IA capazes de executar tarefas por conta própria, a preocupação é “legítima e real”.

Mythos

Desde que o Claude Mythos foi apresentado, em abril deste ano, esse tipo de alerta vem se sucedendo. A própria Anthropic contribuiu para essa narrativa do medo ao comentar que o modelo supera quase todos os seres humanos, exceto os mais experientes, na hora de encontrar, explorar e combater vulnerabilidades e que, por isso, não pretendia lançá-lo de forma ampla.

Começamos a ver associações afirmando que haviam encontrado vulnerabilidades críticas até então desconhecidas graças ao Mythos e que estavam corrigindo essas falhas. E argumentando também que, se o modelo caísse em mãos erradas, poderia causar estragos. Isso porque o Mythos é muito bom em encontrar vulnerabilidades de dia zero, que permitem explorar todos os principais sistemas operacionais e navegadores.

Em Xataka Brasil

Um agente da OpenAI hackeou o governo da Austrália. E simplesmente não avisou

Como exemplo, a empresa apresentou um exercício no qual conseguiu explorar falhas do kernel do Linux para assumir o controle total de uma máquina. Tudo isso enquanto afirmava que não haviam treinado o modelo especificamente para isso, mas que essa capacidade surgiu a partir de melhorias gerais nos sistemas de programação e raciocínio do modelo.

Esse contexto é necessário para entender por que Dimon se refere especificamente ao Mythos, já que o JPMorgan é um dos poucos participantes do programa Glasswing, da Anthropic, que lhes permite explorar o modelo para testar suas próprias defesas.

Na verdade, é o único banco entre os participantes desde o início do projeto e, desde então, Dimon tem se concentrado em dizer que, nesta nova era, a cibersegurança é uma prioridade máxima e que conceder acesso universal seria como “entregar mísseis balísticos a qualquer pessoa”.

Política do medo

Além disso, neste ano, estamos vendo algo curioso. A Anthropic e a OpenAI entraram em uma disputa que tem o medo como arma. Uma delas diz que tem um modelo tão poderoso que não pode disponibilizá-lo a mais ninguém. A outra critica a rival, mas, dois dias depois, faz exatamente a mesma coisa. E isso enquanto ambas lançam modelos de ponta em ritmo acelerado.

Em Xataka Brasil

Modelo de IA da OpenAI que não tinha acesso à internet concluiu que seria melhor ter e decidiu improvisar burlando processo de testes

Mas, paralelamente a esse discurso do medo, elas vendem ferramentas para que as pessoas se protejam. É como se quem fabrica bombas nucleares fizesse uma ameaça e, no dia seguinte, dissesse que tem um abrigo antinuclear lindo e superseguro que pode vender para você se proteger dessas bombas.

Especificamente, a Anthropic vem ampliando, com o Glasswing, o número de organizações internacionais que podem usar seu modelo mais avançado. Segundo a empresa, os participantes já detectaram mais de dez mil vulnerabilidades críticas que agora estão corrigindo. Atualmente, estimam que outras empresas terão um modelo comparável ao seu em um prazo de seis a 12 meses. Esse é, portanto, o tempo que seus parceiros têm para proteger seus sistemas.

Imagem | Steve Jurvetson (editada)

Este texto foi traduzido/adaptado do site Xataka Espanha.