Conversamos com uma das principais empresas de cibersegurança da Espanha; e a avaliação deles não é animadora

Texto original de Javier Marquez

Ontem de manhã, participei de mais uma edição da conferência de cibersegurança Secure&IT em Madri com um objetivo bastante claro: aprender como as empresas estão usando inteligência artificial para se defenderem melhor e dificultarem a vida dos cibercriminosos.

Essa era uma expectativa razoável. A IA se tornou uma das tecnologias mais promissoras do setor, e parecia lógico pensar que grande parte da discussão giraria em torno de suas novas capacidades defensivas.

Mas a conferência ofereceu uma visão muito mais profunda. O que está mudando não é apenas mais uma camada tecnológica sobre os sistemas existentes. É a própria mentalidade da cibersegurança. A velocidade das mudanças, a sofisticação dos ataques e a introdução de novas ferramentas baseadas em algoritmos estão forçando as empresas a repensarem tudo, desde como atualizam softwares até como antecipam ameaças.

A sensação, ao ouvir os palestrantes, era clara: não estamos diante de uma simples atualização de ferramentas, mas sim de uma mudança de paradigma.

Francisco Valencia, CEO da Secure&IT, a quem tive o prazer de entrevistar há algum tempo, trouxe essa ideia à tona logo de início com uma declaração particularmente impactante:

“Sempre dissemos que, em cibersegurança, estamos um passo atrás do cibercrime, e agora estamos dez passos atrás”.

A declaração foi marcante em sua franqueza, mas também ajudou a estruturar a conversa. Encarar essa desvantagem de frente, sem oferecer falsas certezas, é talvez o primeiro passo para entender o que está por vir.

A cibersegurança esperava um aliado, mas o cibercrime também encontrou um

A chave é que a IA não apenas mudou as ferramentas disponíveis, mas também o equilíbrio de poder. Valencia foi direto ao ponto porque, de sua perspectiva, os cibercriminosos ganharam impulso enquanto muitas empresas ainda estão tentando descobrir como usar a IA de forma segura, eficaz e governada. Essa diferença de ritmo explica grande parte do diagnóstico.

Os atacantes não precisam resolver todos os debates internos de uma organização, justificar cada implementação ou esperar por uma política corporativa perfeita. Eles simplesmente precisam testar, automatizar e explorar o que funciona.

O palestrante começou abordando um dos aspectos mais perturbadores desse novo cenário: os Dark LLMs. LLMs, ou modelos de linguagem de grande porte, são a camada técnica que alimenta aplicativos como ChatGPT, Copilot e Gemini: sistemas capazes de interpretar instruções, auxiliar na programação e resolver tarefas complexas.

As empresas que os desenvolvem introduzem limites, filtros e salvaguardas para evitar usos nocivos, tanto por razões de segurança quanto devido aos critérios éticos que empregam no projeto desses sistemas. Os Dark LLMs, como FraudGPT e WormGPT, operam com uma lógica muito mais perigosa: oferecem capacidades semelhantes, mas sem essas barreiras.

O interessante é que essa lógica nem sempre depende da criação de um novo modelo do zero. Valencia também discutiu o jailbreak, uma maneira de tentar contornar os limites da IA ​​convencional por meio de instruções cuidadosamente elaboradas.

Não se trata simplesmente de pedir a um sistema que faça algo proibido, mas sim de envolver essa solicitação em um contexto que o force a responder onde deveria parar. Na prática, o resultado pode ser semelhante: as capacidades de um modelo poderoso colocadas a serviço de usos que grandes empresas tentam bloquear.

Esse salto fica muito claro quando passamos da ferramenta para o engano. Por anos, associamos muitas campanhas de fraude a mensagens desajeitadas, produzidas em massa e facilmente detectáveis, mas a IA nos permite mudar a escala sem sacrificar a personalização.

O CEO da Secure&IT resumiu isso muito bem:

“Não preciso enviar o spam do nigeriano para 20 milhões de pessoas dizendo que me apaixonei por 20 milhões delas para ver quem morde a isca. Envio o mesmo e-mail para 20 milhões, mas digo a cada pessoa o que ela quer ouvir”.

Essa é a diferença: o ataque ainda pode ser massivo, mas não precisa mais parecer genérico.

Durante a apresentação, um termo também surgiu e me chamou particularmente a atenção: malware polimórfico. Pode parecer muito técnico, até mais apropriado para uma conversa entre analistas do que para um artigo que tenta entender o que está acontecendo, mas ajuda a trazer algo importante para a realidade.

Não estamos mais falando apenas de um programa malicioso que entra em um computador e tenta se replicar em outras máquinas com o mesmo comportamento. É algo muito mais sofisticado: uma ameaça capaz de alcançar uma máquina, ler o ambiente, identificar suas defesas e gerar uma versão adaptada a esse cenário específico.

A consequência para as equipes de segurança é clara: se cada máquina recebe uma variante diferente, detectar padrões, relacionar sinais e reconstruir o ataque torna-se muito mais difícil. Não se trata mais apenas de encontrar um arquivo malicioso e rastrear seu caminho pela rede.

Em um cenário onde "o vírus em cada computador é diferente", a campanha pode ter o mesmo objetivo, mas deixar rastros diferentes em cada máquina. E quando os rastros mudam, a análise deixa de ser linear.

A mensagem de Valencia sobre automação foi uma das mais claras do dia: a IA está roubando tempo da defesa. Por anos, as empresas tiveram uma certa margem entre detectar uma vulnerabilidade, criar um exploit e sua exploração efetiva. Essa margem pode ter sido imperfeita, mas existia.

Ela permitia que elas organizassem análises, priorizassem patches e atualizassem os sistemas a cada poucos meses. A frase que melhor resume a mudança é direta:

"Até agora, o tempo era uma arma para nos defendermos, e agora o tempo não é mais uma arma para nos defendermos".

A consequência é muito prática. Embora as organizações costumassem realizar avaliações de vulnerabilidade a cada poucos meses e planejar atualizações com relativa facilidade, essa abordagem está se tornando inadequada. Segundo especialistas, uma ferramenta de IA pode buscar uma vulnerabilidade, identificá-la, preparar o vetor de ataque e executá-lo em questão de minutos.

Quando "o tempo deixa de ser um problema", atualizações tardias não são apenas uma má prática; podem significar que a defesa chega depois que o ataque já ocorreu. Esse diagnóstico prepara o terreno e levanta a questão fundamental: como uma organização se defende quando a antiga janela de oportunidade está se fechando?

Outro ponto da discussão do dia me deixou refletindo, pois aponta para um tipo de ameaça menos visível, mas com enorme potencial de dano: vazamentos de dados que nunca aconteceram de fato. Até recentemente, criar um banco de dados falso e massivo, suficientemente convincente para ser considerado informação roubada, era tecnicamente muito mais complexo.

Agora, com a IA, esse cenário está se tornando muito mais acessível para aqueles que desejam causar danos. Estamos falando de gerar registros sintéticos, apresentá-los como se viessem de uma empresa ou órgão público e deixar que a suspeita faça o resto. Porque o problema não é apenas se a violação ocorreu, mas o dano à reputação que pode resultar ao tentar provar que ela nunca aconteceu.

À medida que a IA se integra aos negócios, o perímetro também muda. Não estamos mais falando apenas de proteger servidores, laptops ou contas de e-mail, mas de proteger os dados que alimentam os modelos e agentes que começam a tomar decisões ou a propor ações. Uma ideia particularmente relevante surgiu durante a conferência: envenenamento de dados.

Se um sistema de IA depende de documentos internos para resumir, decidir ou detectar um ataque, a alteração desses documentos pode mudar a resposta do sistema. O ataque, nesse caso, não é contra a interface, mas contra as informações que a IA considera confiáveis.

Não é segredo que muitas pessoas já dependem da inteligência artificial para trabalhar melhor, estudar, resumir documentos, escrever com mais clareza ou resolver tarefas que antes levavam muito mais tempo. Aliás, grande parte da revolução que estamos vivenciando não se deve ao surgimento repentino da IA, mas sim à democratização massiva do acesso a essas ferramentas.

A tecnologia não nasceu ontem, mas agora está no seu navegador, no seu celular e em serviços que qualquer pessoa pode experimentar em questão de minutos. E é aí que surge uma nova tensão para as empresas: o que pode ser uma ajuda imediata para um funcionário pode se tornar um ponto cego para a organização.

Esse é o domínio da Shadow AI

O problema não é que um funcionário queira ser mais produtivo, mas sim que ele use ferramentas de IA que estão fora do controle da empresa. Isso pode acontecer ao resumir um relatório, colar trechos de um documento interno, consultar dados de clientes ou pedir ajuda para preparar uma apresentação com informações confidenciais.

Valencia explicou a questão a partir de uma preocupação muito específica: cada funcionário pode ter "a sua própria", a sua própria inteligência artificial, paga até mesmo por ele mesmo, e isso torna muito mais difícil saber quais informações estão sendo enviadas, para qual serviço elas estão sendo direcionadas e sob quais condições estão sendo processadas.

Nesse esforço para repensar a defesa, uma das propostas que achei interessante foi o PHASR, da Bitdefender, apresentado por Roberto Pérez. A ideia não é bloquear ferramentas indiscriminadamente, mas sim reduzir a superfície de ataque com base no comportamento real de cada usuário.

O exemplo do PowerShell ilustra bem isso: é uma ferramenta legítima do Windows, muito útil para administradores e equipes técnicas, mas também altamente explorável por atacantes que utilizam técnicas de "Living off the Land", nas quais abusam de funções existentes do sistema.

Se um profissional de RH não precisa dela para o seu trabalho diário, restringir seu uso a esse perfil de usuário específico pode eliminar uma vulnerabilidade sem afetar aqueles que realmente precisam dela. Este é apenas um exemplo, e certamente existem muitos outros além dos abordados nesta conferência e artigo, mas aponta para uma ideia relevante: se os ataques se tornam mais adaptáveis, as defesas também precisam aprender a se adaptar.

A conferência não me deixou com a sensação de que existe uma resposta simples para tudo isso. O CEO da Secure&IT resumiu a situação com um alerta sensato: não existe uma "bala de prata" ou solução única, nenhum botão capaz de tornar uma organização imune a estratégias baseadas em IA.

Ele, no entanto, apresentou um panorama bastante claro de como os cibercriminosos se adaptaram rapidamente para explorar essas ferramentas e como aquela "desvantagem" mencionada anteriormente se transformou em uma lacuna muito maior.

Muitas perguntas permanecem sem resposta, mas uma conclusão parece inescapável: a cibersegurança que era suficiente até recentemente já não basta por si só. Preencher essa lacuna exigirá mudanças técnicas, organizacionais, legais e culturais que vão muito além de uma única ferramenta.

Imagens | Xataka