Fabrício Mainenti
RedatorPor algum tempo, uma das polêmicas em torno do consumo associado à inteligência artificial concentrou-se no uso de água. Mais tarde, descobrimos que aqueles cálculos iniciais — embora ainda indicassem um consumo enorme — eram imprecisos, e nosso foco mudou para uma questão igualmente alarmante: a enorme quantidade de energia necessária para a operação de data centers e da própria IA.
Essa situação está comprometendo a estabilidade energética de algumas nações; no entanto, à medida que a IA amadurece, saindo da "adolescência" e entrando na fase "agêntica", estamos prestes a ingressar em uma nova etapa.
Uma fase caracterizada por um consumo de energia obscenamente elevado.
Em suma
O Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST) realizou um estudo para quantificar o custo energético de agentes de IA. Ao contrário de um chatbot padrão — no qual você envia uma solicitação, recebe um resultado e a interação termina — um agente opera por meio de uma cadeia de processos na qual o software executa múltiplas ações de forma autônoma.
Naturalmente, isso significa que o hardware subjacente permanece ativo e em funcionamento por períodos mais longos.
O estudo mediu o consumo de energia tanto de chatbots quanto de agentes. Concluiu-se que, ao utilizar um modelo de linguagem de grande escala comparável aos serviços de IA comerciais atuais, uma única solicitação complexa feita a um agente consumia 348,41 Wh de eletricidade. Os níveis de consumo variam dependendo do agente e do modelo específicos empregados.
Por exemplo, uma estrutura conhecida como LATS consumiu 62,1 vezes mais energia durante os testes do que um chatbot de IA padrão, enquanto um sistema baseado no modelo Llama-3.1 Instruct 70B, da Meta, consumiu até 136,5 vezes mais energia por consulta.
GPUs em espera (e consumindo energia)
Outro fator crucial é o tempo. Essas consultas consomem mais energia porque mobilizam mais recursos; pesquisadores estimaram que os agentes levam até 153,7 vezes mais tempo do que os chatbots convencionais para processar respostas. Durante esse período, as GPUs permanecem ociosas por mais da metade da duração, mas continuam consumindo eletricidade.
Elas não estão operando em capacidade máxima, mas sim "de prontidão", aguardando respostas de ferramentas e sites externos para processar os dados e executar a ação correspondente assim que a resposta chegar. Esse fenômeno de GPUs ociosas não é novidade; há algumas semanas, observou-se que a grande maioria dos equipamentos adquiridos por empresas de hiperescala (hyperscalers) permanecia ociosa na maior parte do tempo.
A rede elétrica
O problema reside nas projeções. Embora a tecnologia esteja atualmente na era dos chatbots, o setor está migrando para agentes de IA. Plataformas como a Vera Rubin, da Nvidia, estão sendo desenvolvidas especificamente para esse fim; assim que entrarem em operação, o estudo projeta que a demanda por energia atingirá um nível equivalente à metade do consumo total de eletricidade dos Estados Unidos.
Estima-se que os data centers dos EUA tenham consumido "apenas" 4,4% do total nacional em 2023 — um número que deve dobrar até 2030 — mas as estimativas do KAIST superam em muito essas previsões anteriores.
Reformulação
Enquanto os data centers continuam a se expandir, o mesmo não ocorre com a rede elétrica. As fontes renováveis são insuficientes para satisfazer o apetite voraz da IA, tornando necessária a dependência de energia nuclear, gás e até mesmo carvão.
Na Europa, já observamos reações de países que estão direcionando novos data centers para longe das grandes cidades ou rejeitando-os completamente. O motivo? Redes sobrecarregadas e data centers que exigiriam mais energia do que a própria população local, sobrecarregando assim a infraestrutura energética.
Parece improvável que as empresas de hiperescala (hyperscalers) abordem essas preocupações; como observou o CEO da Nvidia, Jensen Huang, há algum tempo, ainda há mais de meia década de investimentos massivos em infraestrutura de IA pela frente.
No entanto, o estudo sul-coreano sugeriu que uma solução para a questão da demanda de energia exigiria uma reformulação de toda a rede — abrangendo desde microchips e modelos de IA até a própria infraestrutura elétrica dos data centers.
Como se isso fosse simples — especialmente agora que as gigantes da tecnologia (Big Tech) correm para implementar agentes de IA tanto em aplicações corporativas quanto para o consumidor final. Resta saber se a rede elétrica conseguirá acompanhar esse ritmo.
Ver 0 Comentários