Victor Bianchin
RedatorVictor Bianchin é jornalista.
Na madrugada de domingo para segunda-feira, os sistemas de refrigeração de centenas de supermercados franceses descongelaram ao mesmo tempo. Alguém ativou remotamente os ciclos de degelo de seus controladores. O ataque atingiu pelo menos 300 estabelecimentos das redes Intermarché e Netto, mais de 100 da Coopérative U e vários da E.Leclerc; o Carrefour informou que 80 supermercados foram afetados.
Não sabemos quem fez isso nem se houve envolvimento de IA. Mas o mais importante nesse caso não depende disso. Porque ele é um exemplo clássico do que a IA já permite fazer.
Quando falamos dos riscos da IA, pensamos em coisas de filmes de ficção científica. Mas o problema real, aquele que já podemos ver neste ano, se parece mais com este caso: algo relativamente banal, físico e barato de executar, mas com consequências destrutivas.
A falha não é nova. A Danfoss, fabricante dos controladores, reconheceu que alguns dos aparelhos afetados já não recebem atualizações e que ataques semelhantes já ocorreram em supermercados da Rússia e de Israel em 2022.
A diferença em relação àqueles ataques está na escala. Antes, eram casos isolados, mas agora estamos falando de mais de 500 lojas em uma única noite.
Nas entrelinhas
Esses aparelhos passaram anos “protegidos” porque atacá-los dava muito trabalho: era preciso encontrá-los um por um, entender um software estranho e adaptar o ataque a cada versão. Esse trabalho tedioso, quase um fator de dissuasão, é justamente o que a IA torna mais barato.
A Anthropic relatou isso em seu relatório de setembro: os atacantes já delegam etapas inteiras do ataque à IA, o que aproxima muito as capacidades de um pequeno grupo daquelas que antes só estavam ao alcance de alguém com muitos recursos, como um Estado.
E nem sequer é preciso ter más intenções. Há alguns meses, pediram a um modelo da OpenAI em fase de testes que buscasse dados sobre gastos com medicamentos na Austrália. Ele acabou invadindo um portal de saúde, executando comandos e levando arquivos e credenciais. A própria OpenAI levou meses para ficar sabendo.
Não é a primeira vez
Em agosto, em uma base militar do Arizona, todos os congeladores entraram no modo de degelo ao mesmo tempo durante a noite. Isso aconteceu em lojas de bases militares de pelo menos nove estados, quase simultaneamente.
Não há nenhuma conexão comprovada com a França, e é muito possível que não exista, mas o truque é o mesmo, em dois continentes, com dois meses de diferença.
O problema de fundo não é apenas a IA, mas o ritmo:
- Quem ataca opera na velocidade do software. Quem se defende, na velocidade do hardware.
- Muitas vezes, não basta atualizar remotamente um controlador antigo: é preciso substituí-lo, loja por loja, com a ajuda de um técnico.
- Conectamos à internet dispositivos projetados para durar vinte anos justamente quando atacá-los se tornou muito fácil.
O que protegeu essa infraestrutura durante todos esses anos foi o fato de que atacá-la era viável, mas exigia muito esforço, e a “recompensa” não compensava. A IA serve para reduzir o esforço. Por isso, o risco não virá de uma máquina que decide nos fazer mal, mas de algo muito mais banal: tornar cada vez mais fácil que façamos mal uns aos outros.
Imagem | Jack Lee (Unsplash)
Este texto foi traduzido/adaptado do site Xataka Espanha.
Ver 0 Comentários