O NAS é coisa do passado; o futuro que se avizinha é montar o seu próprio "data center" doméstico para dar suporte ao uso de IA

Para os entusiastas da IA, o que a Apple fez ontem foi, ao mesmo tempo, maravilhoso e triste. Maravilhoso porque a empresa revelou máquinas excepcionais que se posicionam claramente como o melhor hardware para executar modelos de IA localmente. E triste porque o acesso a essas máquinas está fora do alcance de muitas pessoas.

O aspecto interessante foi a mensagem por trás desse lançamento: esses Macs não são mais apenas as máquinas que conquistaram profissionais de fotografia ou edição de vídeo; eles são verdadeiras "feras" para executar modelos de IA localmente. Uma experiência de IA privada, eficiente e ultrasilenciosa.

Essa é uma mudança significativa, pois, embora a Apple talvez não tenha (por enquanto) o melhor modelo de IA do mercado, ela sem dúvida possui a melhor máquina para executar modelos de IA localmente.

Vamos voltar um pouco no tempo. Quando a empresa apresentou os revolucionários chips Apple M1 em 2020, todos nós focamos bastante em sua eficiência notável e no desempenho por watt; no entanto, poucos — embora nós o tenhamos feito — deram muita atenção à arquitetura de memória unificada.

Mas era 2020, afinal, e ter uma grande quantidade de memória de vídeo não era algo particularmente importante para 99,99% dos usuários. A RTX 3090, com seus 24 GB de memória GDDR6X, parecia um monstro para nós, enquanto a maioria se contentava com os 8 GB de memória gráfica da RTX 3070. A RTX 3080 ia um pouco além, com 10 GB, o que, novamente, parecia mais do que suficiente.

Tudo mudou em 30 de novembro de 2022, com a chegada do ChatGPT. Não percebemos na época, mas aquele lançamento desencadearia não apenas a ascensão de modelos de IA baseados na nuvem, mas também daqueles capazes de rodar localmente em nossos PCs.

A Meta surpreendeu a todos com seu modelo de pesos abertos, o Llama, e começamos a compreender, aos poucos, que a memória de vídeo era absolutamente crucial para a execução local de modelos de IA. Na verdade, percebemos que dois fatores relacionados à memória de vídeo eram cruciais para modelos de IA locais:

• Quanto maior a capacidade, melhor (para executar modelos maiores e mais potentes);
• Quanto maior a largura de banda, melhor (mais tokens/s durante a inferência).

Foi então que o cenário ficou claro: a RTX 5090 chegou com 32 GB de GDDR7 — excelente largura de banda (quase 1,792 TB/s), mas capacidade um tanto limitada, já que essa quantidade de memória não deixava espaço suficiente para carregar modelos de IA grandes inteiramente na memória.

É aí que a Apple, quase silenciosamente, começou a se destacar como uma opção atraente. Os modelos de Mac Studio do ano passado, equipados com o chip M3 Ultra, deram aos usuários acesso a máquinas com até 512 GB de memória unificada (!) e uma largura de banda invejável de 819 GB/s.

É verdade que isso representa menos da metade da largura de banda da RTX 5090, mas oferece uma margem enorme para acomodar modelos de pesos abertos verdadeiramente gigantescos na memória.

Nos novos modelos de Mac Studio equipados com os chips Apple M5 Ultra, a memória unificada realmente se destaca. Voltamos a ter até 512 GB disponíveis por máquina, mas a largura de banda saltou para 1,2 TB/s — um aumento de 50% em relação ao M3 Ultra. A melhoria é notável, mas não para por aí.

A concorrência enfrenta um desafio árduo, como mostra o tweet de Ily no X.com. As placas de vídeo mais potentes da Nvidia superam a Apple em largura de banda, mas não em capacidade de VRAM; além disso, é preciso contar com o restante dos componentes do sistema para realmente utilizá-las.

O DGX Spark é uma opção interessante graças aos seus 128 GB de "memória unificada" — semelhante à utilizada nos Macs —, mas sua largura de banda é muito inferior à do M3 Ultra, e muito mais ainda à do M5 Ultra.

Essa mesma questão afeta todas as suas variantes (Acer Veriton GN100, Dell GB10, etc.), bem como máquinas como o Framework Desktop ou novos PCs com chips AMD Strix Halo (como o impressionante Ryzen AI Max+ 395): a largura de banda é apenas adequada, situando-se em torno de 250 GB/s.

Para efeito de comparação, o Mac mini com chip M4 tem uma largura de banda de 120 GB/s — menos da metade da do DGX Spark. Isso é uma má notícia para as rivais da Apple.

O software completa a equação

Passamos anos discutindo como o CUDA funciona como o "fosso defensivo" da Nvidia no campo da inteligência artificial. Essa tecnologia permitiu que desenvolvedores da área aproveitassem ao máximo as capacidades dessas placas de vídeo — algo que se mostrou especialmente verdadeiro nos enormes data centers utilizados pela OpenAI, pela Anthropic e por suas concorrentes.

Se a Nvidia está disparando à frente, isso se deve menos aos seus chips de IA do que ao seu software de IA. A AMD, por exemplo, possui chips fantásticos na linha Instinct MI350, mas o software não é tão refinado — pelo menos não ainda. A tecnologia ROCm da empresa está avançando, sem dúvida, mas, por enquanto, a Nvidia mantém a vantagem tão valorizada por usuários que buscam uma experiência descomplicada.

A Apple parecia estar em desvantagem nesse aspecto, mas surpreendeu ao lançar o MLX, um framework de código aberto projetado para sua família de chips Apple Silicon. Isso deu origem a todo um ecossistema de modelos quantizados com essa tecnologia — na qual os modelos de IA "se comunicam" de forma fluida com os chips —, além de aplicativos como o LM Studio, que permitem sua execução com desempenho otimizado.

Agora, no entanto, surge outro componente de software atraente: a capacidade de conectar vários Macs (Mac mini, Mac Studio, etc.) para combinar seu poder computacional. Isso cria clusters de máquinas — híbridos ou não — que aumentam a capacidade de processamento e, o que é fundamental, ampliam a memória disponível necessária para executar esses modelos.

Foi exatamente isso que a Exo Labs lançou há alguns meses, e a equipe responsável trabalhou com a Apple para levar essa funcionalidade de forma nativa a essas novas máquinas.

Há quem preveja que máquinas como essas se tornarão os PCs domésticos da era da IA. Em vez de um PC convencional ou mesmo de um NAS, a visão é a de uma máquina no estilo Mac Studio, operando 24 horas por dia, 7 dias por semana, e capaz de hospedar modelos de IA locais. Bem-vindo à era dos minidatacenters domésticos de IA.

Embora esses modelos possam não ter a capacidade bruta dos modelos de ponta da OpenAI, da Anthropic ou de suas rivais, essa diferença está diminuindo — como demonstra o fato de que modelos chineses de código aberto já apresentam desempenho muito próximo ao de sistemas como o GPT-5.6 Sol ou o Fable 5.

É verdade que esses modelos são grandes demais para rodar localmente (o Kimi K3 é um modelo de 2,8 trilhões de parâmetros, enquanto o Qwen3.8.Max chega a 2,4 trilhões), mas eles dão origem a versões "locais" — como o excepcional Qwen3.8-27B — que cabem perfeitamente em uma máquina com 32 GB de VRAM (ou memória unificada).

Isso permite que usuários de uma RTX 5090 os executem a velocidades superiores a 100 tokens/s (dependendo da variante); no entanto, existem alguns problemas. Primeiro, a RTX 5090 consome muita energia. Segundo, ela gera ruído e calor consideráveis, tornando seu uso doméstico um tanto "desconfortável".

É aí que o Mac Studio (e até mesmo o Mac mini com o novo chip M5 Pro) se torna uma escolha altamente recomendada para esse tipo de configuração. Eles são eficientes e silenciosos, o que lhes confere uma vantagem sobre a concorrência nesses aspectos.

Então, qual é a pegadinha? A de sempre.

Executar modelos de IA locais de alto nível é (muito) caro

Apesar de todas essas vantagens, há um ponto negativo: os novos Macs têm um preço elevado. Embora isso fosse de certa forma esperado — visto que a crise de memória elevou os custos em todo o setor —, a Apple "penaliza" especialmente os usuários que precisam de maior capacidade de memória para essas máquinas potentes voltadas à IA.

O Mac Studio mais barato com o chip M5 Ultra (96 GB de memória unificada) começa em € 6.649 (cerca de R$ 39.955). Se você optar pela versão com 256 GB, o preço sobe para € 11.049 (cerca de R$ 66.395). Vale ressaltar que as unidades DGX Spark de 256 GB também não são baratas — custando cerca de € 6.000 (aproximadamente R$ 36.055) atualmente — e o mesmo vale para outras alternativas: executar grandes modelos de IA localmente é, hoje em dia, um empreendimento caro.

Essa situação provavelmente melhorará com o tempo, mas, de qualquer forma, uma coisa é clara: a mudança de rumo da Apple em sua linha de desktops é fascinante. Por muito tempo, a sigla "IA" parecia ser um tabu em Cupertino, mas, ultimamente, eles parecem ter despertado para essa realidade.

Eles podem não ter um modelo local de destaque próprio (embora eu aposte que isso vai mudar), mas o que eles têm são (possivelmente) as melhores máquinas para executar modelos da concorrência.

Bela jogada, Apple. Bela jogada.