Fabrício Mainenti
RedatorUm usuário do Reddit relatou que um amigo trabalha em uma empresa de montagem de PCs que fabrica computadores sob encomenda. Um cliente teria encomendado um computador muito especial: com quatro placas de vídeo RTX 4090 e 64 GB de RAM.
O mais impressionante é que as quatro placas de vídeo juntas têm mais memória de vídeo do que a RAM total do computador. Uma RTX 4090 vem com 24 GB de VRAM, totalizando 96 GB de memória de vídeo.
Quanto custou o computador?
O usuário explica que o cliente pagou aproximadamente US$ 16 mil (cerca de R$ 86.144), incluindo montagem, frete e garantia.
O que não se sabe?
O processador, a placa-mãe, a quantidade de memória RAM e o gabinete são desconhecidos. Segundo outro comentário no Reddit, o gabinete é um modelo personalizado específico de um fabricante chinês. A placa-mãe possui 8 slots para RAM, então provavelmente também é um modelo específico.
A IA generativa depende de placas gráficas rápidas e ampla memória de vídeo
E para que serve todo esse hardware caro?
Segundo o usuário, o cliente deseja usar o sistema para executar modelos de IA localmente. Isso explica, pelo menos, a necessidade das placas gráficas.
Por que a VRAM é mais importante que a RAM?
O computador será usado principalmente para IA generativa. Muita RAM não oferece vantagens significativas para IA generativa. A RAM só se torna importante, como explica um usuário do Reddit, quando se deseja salvar etapas intermediárias, os chamados checkpoints.
A memória de vídeo, por outro lado, tem a vantagem de permitir o armazenamento de todo o modelo de IA. Modelos grandes e complexos exigem 20 GB ou mais. O processador e a RAM têm um papel muito secundário, pois a VRAM é muito mais rápida que a RAM comum e está muito mais diretamente ligada à placa gráfica e à sua unidade de processamento gráfico (GPU).
Redes neurais, por exemplo, exigem muitos cálculos paralelos simultâneos, algo em que as placas gráficas se destacam. Quanto mais memória de vídeo disponível, mais rápido e fácil será o processo. Executar esses cálculos em uma CPU que acessa a memória RAM comum seria significativamente mais lento.
A comunidade considera o computador um bom negócio, dados os preços elevados
Por que é um bom negócio?
Vários usuários explicam que os US$ 16 mil por um sistema como esse é um preço bastante justo considerando a situação atual do mercado, especialmente em relação ao aumento dos preços de hardware. Ainda não se sabe quando os preços vão parar de subir.
As quatro placas de vídeo e os 64 GB de RAM, por si só, provavelmente serão significativamente mais caras daqui a alguns meses do que são agora. Um usuário escreveu que o negócio é melhor do que ele imaginava. Outro acrescentou: "Com as placas de vídeo de 5k chegando em breve, isso quase parece um bom negócio."
Ver 0 Comentários